タイムライン検索

2026年5月29日

深層学習の最近の進歩により、大うつ病性障害（MDD）のEEGベースの分類の精度が向上していますが、高容量モデルの意思決定プロセスは依然として解釈が困難です。本研究では、複数の事後的説明可能性手法を調査しています。

arXiv cs.LG

2026年5月30日

ヘイトスピーチ自動検出の精度向上に向けた研究が進展している。自然言語処理の分野において、ヘイトスピーチ判定は人間の判断が分かれやすく、従来の手法では十分な対応ができていなかった。 新たな研究では、複数の機械学習モデルと学習方法を統一的な基準で比較検証する取り組みが行われた。注目すべきは、単に正否を判定するのではなく、なぜそう判断したのかという根拠を明示する「説明可能性」を同時に評価している点である。 研究チームは、判定の正確さと信頼性、さらに判断理由の妥当性や分かりやすさなど複数の指標を組み合わせて評価。異なるアノテーター（ラベル付け者）の見解の相違や、文中で重要とされる箇所の表現ゆらぎなど、実務的な課題に対応する方法論を提示した。 この成果は、ソーシャルメディア上の有害コンテンツ対策や、AIの透明性向上につながる可能性がある。 （引用元：arXiv cs.CL）

arXiv cs.CL

2026年6月1日

arXiv:2605.30470v1 Graph Machine Learning as a Service（GMLaaS）プラットフォームは、規制上の透明性要件を満たすために説明可能性インターフェースを実装することが増えています。しかし、この透明性はモデル抽出攻撃の悪用可能な脆弱性を生み出します。本論は、特にサブグラフ説明を対象とした初のモデル抽出攻撃を提示しています。

arXiv cs.LG

2026年6月2日

知識ベース質問応答（KBQA）への支配的なアプローチは2つのカテゴリに分類されます。1つ目は脆弱性と説明可能性の制限に悩む形式的クエリの生成、2つ目はKB探索を通じた直接的な回答検索で、これは計算コストが高くハルシネーション（幻覚）が起きやすいです。

arXiv cs.CL

2026年6月2日

深層学習アルゴリズムの説明可能性は、高リスク判断が伴うコンピュータビジョンアプリケーションにおいて重要です。概念ボトルネックモデル（CBM）は最近、高レベルのボトルネックに基づいた分類問題に対して説明可能で正確な予測を提供するための有望なパフォーマンスを示しています。

arXiv cs.LG

2026年6月23日

メンタルヘルスの評価において、個々の状況に合わせたスクリーニングや、結果の解釈が難しいデータ中心のモデルが課題となっていました。この度、これらの課題を克服するため、診断ツール、認知機能評価、性格分析を組み合わせた新しいハイブリッド知能フレームワーク「PsyBridge」が提案されました。 「PsyBridge」は、PHQ-9やGAD-7といった既存の評価項目に加え、認知・行動に関する指標も統合することで、メンタルヘルスのリスクを分類し、その理由を説明可能な形で提示します。さらに、個々の状態に応じた推奨事項も生成するとのことです。これにより、より多角的で、かつ理解しやすいメンタルヘルスの評価と意思決定支援が期待されます。 （出典：arXiv cs.LG）

arXiv cs.LG

2026年6月23日

説明可能な人工知能（Explainable Artificial Intelligence）は、モデルの出力につながる要素を人間が理解できる方法で提示することにより、ブラックボックスモデルへの信頼性を高めることを目指しています。これには、（i）出力に対する真の因果的影響を持つコンポーネントと接続の特定、（ii）そのような構造の解釈可能な表現への変換の両方が含まれます。前者については、グラフニューラルネットワーク（GNN）を説明するための因果推論に基づいた新しい摂動ベースの方法であるCIExplainerを導入します。CIExplainerは、潜在的結果フレームワークを用いて、GNN予測に対する因果的影響が最も大きいサブグラフを特定します。CIExplainerをさまざまなGNNアーキテクチャ（GCN、GraphSAGE、GAT、GIN）とデータセットで評価・比較します。サブグラフの説明と人間の解釈可能性を橋渡しするために、さらに、特徴レベルと関係性の両方の情報を取り込んだ自然言語の説明に因果サブグラフを変換するG2TeXplainerという手法を提案します。

arXiv cs.LG

2026年6月24日

レコメンデーションシステムは、しばしば即時的なユーザーエンゲージメントを単調に最適化することで、フィルターバブルやセマンティックな均質化を引き起こします。従来のDeep Q-Networksを含む標準的な単一目的モデルは、プラットフォーム維持と、情報多様性やプロバイダーの公平性といった重要な社会的価値とのトレードオフを処理するのに不十分です。これらの限界に対処するため、我々は推薦をセマンティックなマルチオブジェクティブ・マルコフ決定プロセスとして形式化する、マルチオブジェクティブ強化学習フレームワークを導入します。高忠実度のセマンティック埋め込みとパレートDQNエージェントを統合することにより、我々のアーキテクチャは、エンゲージメント、多様性、公平性を、静的な報酬スカラー化の落とし穴を回避しながら、区別可能で集約不可能な報酬信号として扱います。MovieLens smallデータセットでの経験的評価は、我々のハイパーボリュームベースのアクション選択が、セマンティック崩壊の原因となるフィードバックループを破壊することを示しています。

arXiv cs.AI

2026年6月24日

定性的な製品フィードバックはニュアンスのあるユーザー体験を明らかにしますが、その隠れた感情を測定することは困難です。本論文では、大規模言語モデル（LLM）を使用して、このようなデータから製品の望ましさを定量化する、スケーラブルで解釈可能なフレームワークを提案します。ZORQとCARMAの2つのProduct Desirability Toolkit（PDT）データセットを使用し、106の回答者タームグルーピングをゴールドスタンダードの人間によるアノテーションで評価し、明示的なレビュー評価に依存せずに、ゼロショット連続数値感情スコアリングとカテゴリ感情分類を評価します。データセット全体で、LLMは定性的な回答から直接数値感情スコアを生成し、専門家のラベルに非常に近く、ピアソン相関係数は最大0.97、分類精度は最大94%を達成しました。LLMは、複数の形式で提示されたデータを処理しても堅牢性を維持し、一貫して高い信頼性を示しました。対照的に、辞書ベースおよびトランスフォーマーベースラインでは統計的に有意な結果は得られませんでした。

arXiv cs.CL

2026年6月24日

女性性労働者（FSW）に影響を与える重大なメンタルヘルスの問題の一つは、精神疾患、特にうつ病です。暴力、スティグマ、経済的困難への曝露は、彼女たちの心理的リスクをさらに高めます。現在の機械学習（ML）モデルは、この疎外されたグループに存在する高次元で複雑なリスクパターンを捉えるのに効果的ではありません。本論文は、ANOVAと相互情報量を用いたアンサンブル特徴選択戦略と、ハリスホーク最適化で調整されたロジスティック回帰を組み合わせたハイブリッド予測モデルを提案し、脆弱なグループのメンタルヘルスを予測するためのスワームインテリジェンスの新しい応用を示しています。説明可能なAI（XAI）手法は、モデル予測に関連するトラウマの要因を理解するために使用できます。3,005人のFSWのグループに適用された結果、提案されたモデルは従来の分類器よりも効果的であり、精度95.78％、F1スコア95.77％、AUC 0.96を達成し、心的外傷後ストレス、顧客関連の暴力、職業的要因がうつ病の主な原因であると特定しました。

arXiv cs.AI

2026年6月29日

偽情報の急速な拡散は、情報エコシステムに増大する脅威をもたらしています。特に、生成エンジン最適化（GEO）ポイズニングによるAI生成の偽情報は、検索システムによって体系的に表面化させることができる敵対的に作成されたコンテンツを可能にし、LLMの推論を汚染します。本稿では、自動ファクトチェックのための階層的証拠推論フレームワークであるTree of Evidence（ToE）を提案します。これは、各主張を動的に拡張される議論ツリーとしてモデル化します。ToEは、強化学習駆動のマルチソース検索エージェント、証拠評価エージェント、および議論ツリー集約アルゴリズムを統合し、説明可能な証拠チェーンを通じて主張を反復的に分解、取得、検証します。さらに、検索プロセスの理論的分析を提供し、学習されたポリシーが情報理論的に最適なポリシーの近傍に収束することを保証する正式な誤差境界を導き出します。

arXiv cs.AI

2026年7月3日

大規模言語モデル（LLM）がコード生成中にトークンレベルの決定をどのように行うかを理解することは、研究者と実務者の両方にとって依然として大きな課題です。最近のツールはモデルの内部構造や生成結果に関する洞察を提供していますが、デコード時のシグナル、きめ細やかな不確実性指標、代替生成パスを探索するためのインタラクティブなメカニズムを欠いていることがよくあります。本稿では、生成中にトークンレベルのメトリクス、アテンションパターン、構造情報を提供する、デコーダーベースLLMのためのインタラクティブな解釈可能性および分析ツールであるTokenScopeを紹介します。TokenScopeは、インタラクティブなトークン置換、反事実的ブランチング、抽象構文木によるコード対応集約をサポートします。デコード時のシグナルと構造化されたプログラム分析を統合することにより、TokenScopeはコード生成中のLLMの動作の体系的な調査を可能にします。

arXiv cs.CL

2026年7月6日

検索およびレコメンデーションシステムでは、特定の入力特徴量がアウトプットスコアに不安定さをもたらすことで、予測モデルが時間的な不安定性に悩まされることがよくあります。この不安定性は、下流の意思決定に一貫した予測が不可欠なマルチステージシステムにおいて、モデルの信頼性とユーザーエクスペリエンスを低下させる可能性があります。

Apple Machine Learning Research

2026年7月25日

Amazon SageMaker AIとPyTorchを使用して構築された、金融機関向けの、説明可能な次善商品レコメンデーションシステムのアーキテクチャと設計上の決定事項を学びます。学習済みアテンション機構を備えたマルチタワーニューラルネットワークは、金融規制当局が要求する説明可能性を提供しながら、顧客ごとの正確なレコメンデーションを提供します。

AWS Machine Learning Blog