タイムライン検索

2026年5月7日

GitHub Copilotクラウドエージェント向けの「信頼レイヤー」を構築する方法について、脆弱なスクリプトやブラックボックス判定を使用せず、優位性分析を用いた手法を紹介しています。

GitHub Blog (AI)

2026年5月29日

深層学習の最近の進歩により、大うつ病性障害（MDD）のEEGベースの分類の精度が向上していますが、高容量モデルの意思決定プロセスは依然として解釈が困難です。本研究では、複数の事後的説明可能性手法を調査しています。

arXiv cs.LG

2026年6月1日

ブラックボックスLLM蒸留は通常、出力マッチング問題として評価される。学生モデルが教師モデルの応答と意味的に類似しているか、またはタスク一貫性がある場合、成功と見なされる。しかし、出力の類似性は、学生が行動的に区別不可能であることを意味しない。

arXiv cs.LG

2026年6月1日

異なるブラックボックスエンコーダにより部分的に重複するデータセットから生成された2つの埋め込みクラウドが与えられた場合、ベクトルのみを使用してクロスモデルオブジェクト対応を復元するベクトルリンクの研究。独立して訓練された対照的エンコーダが局所幾何学的性質を示すことを実証および理論的に証明する。

arXiv cs.AI

2026年6月2日

ベイズ最適化（BO）は、評価費用が高く、ブラックボックスで非凸な目的関数を持つ最適化問題を解くために広く採用されています。しかし、標準的なBOアルゴリズムは対象問題の特性である対称性を活用することができません。直感的な例があります。

arXiv cs.AI

2026年6月4日

犯罪捜査の切り札とも言える科学鑑定への信頼が揺らいでいる。きっかけは、佐賀県警で発覚した科学捜査研究所（科捜研）の不正事件。

朝日新聞デジタル

2026年6月5日

検索ユーザーがサイトへ遷移しなくなる「ゼロクリック問題」でメディアが沈む中、noteはAI経由の流入で「想定の4倍」という驚異的な数字をたたき出した。加藤貞顕CEO（最高経営責任者）が東京大学の松尾・岩澤研究室（松尾研）で学んだAI戦略が結実した格好だが、アルゴリズムというブラックボックスに依存する構造は、常に「はしごを外される」リスクと隣り合わせだ。

ダイヤモンド・オンライン

2026年6月8日

本書は、深層学習、特に生成モデルの時代において、大規模な生成モデルの訓練に多大な投資がなされている現状に対して、これらの「ブラックボックス」を理解することを目指している。深層ネットワークの内部メカニズムは不透明であり、解釈可能性、信頼性、制御の困難さにつながっている。本書は表現学習の観点から大規模深層ネットワークのメカニズムを解明することで、このブラックボックスを開こうとする試みである。表現学習は深層学習モデルの経験的力の重要な要因である。本書では、最適化と情報理論を通じてモダンなニューラルネットワークアーキテクチャの設計原理を説明し、アーキテクチャ開発を「錬金術」から大学初級レベルの線形代数と微積分の問題に還元する。また、これらの原理を応用して、効率的で解釈可能かつ制御可能でありながら、ブラックボックスモデルと同等かそれ以上の性能を持つ新しい手法とモデルを得ることについても論じ、深層学習の今後の方向性と表現学習の役割を探求する。

arXiv cs.LG

2026年6月10日

arXiv:2606.09850v1 公開タイプ: new 概要: 事後学習のアライメントアルゴリズムは、言語モデルの内部計算をどのように再構築するかを不明瞭にしたまま、ブラックボックスとして評価されることが大半です。本研究では、6つの選好最適化手法（PPO, DPO, SimPO, ORPO, GRPO, KTO）を3つのオープンウェイトモデルファミリーで横断的に比較し、体系的なメカニズム解析を行います。層ごとの線形プロービング、スパースオートエンコーダー、クロスコーダーを統合することで、選好表現を局在化させ、潜在空間におけるアライメント誘発性の幾何学的変換を定量化します。選好信号は一貫して早期～中期または中期～後期の層に集中するものの、異なる目的関数が表現上のシフトを質的に区別することを発見しました。KTOとGRPOは、建設的な特徴共有とスパースで高顕著性な募集を通じて線形分離性を向上させます。対照的に、DPOとORPOは、非建設的な幾何学的回転と特徴減衰を通じて分離性を低下させる一方、PPOとSimPOはベースラインの幾何学的構造をほぼ維持します。

arXiv cs.LG

2026年6月19日

人工知能（AI）における大規模言語モデル（LLM）の透明性は、その意思決定プロセスを理解し、不適切な使用や矛盾を減らし、予期せぬ動作を修正するために不可欠であるとされています。この課題に対し、ある研究では、画像生成モデル「DiffusionGemma」の透明性について、変数透明性とアルゴリズム透明性という二つの側面から分析が行われました。 初期の分析では、DiffusionGemmaの変数透明性には課題が見られましたが、研究チームは新たな発見をしました。具体的には、画像からノイズを除去する各ステップ間の情報伝達を、解釈可能な「トークンボトルネック」を通じて可視化できることを示したのです。この方法は、モデルの内部でどのように情報が処理され、最終的な画像が生成されるのかを理解する上で、新たな道を開く可能性を秘めています。 この研究は、AIモデルの「ブラックボックス」問題を解決し、その振る舞いをより深く理解するための重要な一歩となるかもしれません。 引用元: arXiv cs.AI

arXiv cs.AI

2026年6月19日

最近の論文では、対話型大規模言語モデル（LLM）エージェントには、古典的な偶然的/認識的（aleatoric/epistemic）不確実性フレームワークが不十分であり、プロアクティブな明確化要求や共有メンタルモデル構築といった新たなエージェント機能を引き出すための、仕様不備を認識し、分解可能で、伝達可能な不確実性表現が必要だと主張しています。実用的なデプロイメントの制約（ブラックボックスAPI、対話レイテンシ予算、ラベル付き軌跡の欠如）は、ログ確率ベース、マルチサンプリング、トレーニングベースの方法を排除し、デプロイメント時にこれらのシグナルを提示するための最も実行可能な手法としてプロンプトベースの推定を残します。我々は、タスク仕様が曖昧な場合にエージェントが明確化を求めることを可能にする、アクションの信頼度と要求の不確実性（u）を分離する、シンプルなプロンプトベースの分解でこの要求に応えます。

arXiv cs.AI

2026年6月19日

推定分布アルゴリズム（EDA）は、特に目的関数の構造についてほとんど情報がない場合に、ブラックボックス最適化のための強力な進化計算手法です。従来の進化アルゴリズムが、未知の問題構造に対して設計が難しくバイアスの原因となる、手作業で設計された突然変異や交叉演算子に依存するのに対し、EDAは演算子の設計を完全に回避します。EDAは、最良の個体群に確率分布を適合させ、そこから次の世代をサンプリングします。EDAは連続パラメータ空間では確立されていますが、これまでは良好な解のほとんどの係数が正確にゼロであるスパースな空間には一般化されていませんでした。そのため、既存のスパースブラックボックスオプティマイザーは、EDAが回避するように設計されていたもの、すなわち手作業で設計されたスパース演算子、サポートセットとアクティブ値の間を交互に切り替える二層スキーマ、ゼロ化閾値、その他の組み込み前提を再導入しています。本研究では、多変量ゼロ過剰ガウス（ZIG）分布をEDAのサンプリング規則として提案することで、このギャップを埋めます。

arXiv cs.LG

2026年6月23日

説明可能な人工知能（Explainable Artificial Intelligence）は、モデルの出力につながる要素を人間が理解できる方法で提示することにより、ブラックボックスモデルへの信頼性を高めることを目指しています。これには、（i）出力に対する真の因果的影響を持つコンポーネントと接続の特定、（ii）そのような構造の解釈可能な表現への変換の両方が含まれます。前者については、グラフニューラルネットワーク（GNN）を説明するための因果推論に基づいた新しい摂動ベースの方法であるCIExplainerを導入します。CIExplainerは、潜在的結果フレームワークを用いて、GNN予測に対する因果的影響が最も大きいサブグラフを特定します。CIExplainerをさまざまなGNNアーキテクチャ（GCN、GraphSAGE、GAT、GIN）とデータセットで評価・比較します。サブグラフの説明と人間の解釈可能性を橋渡しするために、さらに、特徴レベルと関係性の両方の情報を取り込んだ自然言語の説明に因果サブグラフを変換するG2TeXplainerという手法を提案します。

arXiv cs.LG

2026年6月26日

世界中で頻繁に発生する洪水の迅速かつ正確な検知は、緊急対応と人的・経済的損失のタイムリーな軽減に不可欠です。衛星データの利用拡大と人工知能の進歩は環境ハザードの監視を強化していますが、光学衛星画像は雲によって隠されるため、多くの洪水イベントは検知が困難なままです。RambourらはSEN12-FLOODデータセットを導入し、ResNet-50畳み込みニューラルネットワークバックボーンを使用して画像ごとの特徴を抽出し、それらをゲート付き再帰ユニットネットワークに供給することで、単一画像ベースラインと比較して時間的情報が精度を大幅に向上させることを示しました。最近では、Chamatidisらも、ビジョントランスフォーマーが一般的な畳み込みアーキテクチャで高い性能を達成できることを示しました。しかし、これらのモデルは通常、不透明なブラックボックスとして機能するため、特にリモートセンシングのような安全性が重要視される分野では、その決定境界、学習された特徴、および内部の推論を解釈することが困難です。

arXiv cs.LG

2026年7月2日

パーソナライゼーションアルゴリズムは、オンラインプラットフォームでユーザーがどのようなコンテンツに遭遇するかを決定します。これらのシステムを監査するのは困難です。なぜなら、独立した監査人はアルゴリズムにブラックボックスアクセスしかできず、パーソナライゼーションはユーザーの属性、行動、進化するインタラクション履歴に依存するからです。既存の監査方法はトレードオフに直面しています。実際のユーザーを使った研究は現実的な行動を捉えますが、コストがかかり制御が難しく、一方、ソックパペット監査はより簡単にスケールしますが、しばしばスクリプト化された行動に依存し、現実性を制限します。さらに、どちらのアプローチもユーザー属性とユーザー行動を分離するのに苦労しており、パーソナライゼーションを因果的に理解する能力を制限しています。このギャップに対処するため、私たちは生成AIエージェントを合成アカウントの行動エンジンとして使用した、パーソナライゼーションアルゴリズムのブラックボックス監査のためのフレームワークを導入します。

arXiv cs.CL

2026年7月3日

設計書はなく、ソースコードの一部も紛失。30年動き続けた基幹システムは、誰も中身の分からないブラックボックスと化していた。創業100年の酒類卸カクヤスは、これを生成AIでどう解き明かしたのか。親会社ひとまいるの担当者が「AWS Summit Japan 2026」で語った。

ITmedia 全カテゴリ

2026年7月3日

多くの商用LLMプロバイダーは、基盤となるLLMアーキテクチャの詳細を公開していませんが、従来の研究では、LLMへの限定的なAPIアクセス（トップkロジットやロジットバイアス関数など）があれば、フィードフォワードネットワークの隠れ次元などのアーキテクチャ詳細を復元できることが示されていました。これに対応するため、多くのプロバイダーはAPIを制限し、デコードされた各トークンに対して単一のロジットのみを公開し、ロジットバイアス機能も提供しなくなりました。本研究では、現在の制限されたAPI下でも、いくつかのアーキテクチャパラメータが依然として復元可能であることを示します。我々はNightVisionという、制限されたブラックボックスAPIアクセスを用いてLLMの隠れ次元、深さ、パラメータ数を推定する攻撃手法を提案します。アルゴリズム的には、NightVisionは複数のプロンプトが同じ出力トークンセットに対する対数確率を公開する新しいコモンセットプロンプティング技術に依存しており、これらの結果のスペクトル分析を用いて隠れ次元を推測します。

arXiv cs.LG

2026年7月14日

Anthropic社が、AIが回答を生成する過程における「内なる思考」を可視化する新たな手法を開発しました。この技術により、AIがどのように推論を進めているのか、その思考プロセスをより深く理解することが可能になります。 AIの推論過程は、これまでブラックボックス化されている部分が多く、その判断根拠を明確にすることは困難でした。今回Anthropic社が発表した新手法は、AIの内部構造に迫り、その思考の道筋を解明する手助けとなります。 このAIの「内なる思考」を垣間見る技術は、今後のAI開発において極めて重要な進展となることが期待されています。AIの信頼性向上や、より高度な意思決定能力を持つAIの開発に繋がる可能性を秘めています。 MIT Technology Review AI

MIT Technology Review AI

2026年7月17日

事前学習済みのビジョン・言語モデル（VLM）は、画像とテキストの説明との類似性スコアを計算することで、ゼロショット画像分類を可能にします。この説明は通常、クラスラベル（例：「猫」）をプロンプト（例：「写真」）に挿入して形成されます。与えられた画像とクラスのペアのスコアはプロンプトの選択に敏感であるため、既存の研究では、複数のプロンプトを重み付けベクトルを使用してアンサンブルし、異なるプロンプトからのスコアを集約します。しかし、現在の戦略では、各プロンプトに割り当てられる重み付けベクトルはすべてのクラスで共有されており、プロンプトがクラスに条件付きで独立していると暗黙的に仮定しています。これは実際には当てはまらないことがよくあります。「空中からの眺め」のようなプロンプトは「空港」には適しているかもしれませんが、「リンゴ」には不向きです。この問題に対処するために、クラス認識型ゼロショットプロンプト再重み付け（CARPRT）を提案します。このスコアリングスキームは、トレーニングフリーの方法で異なるプロンプトのクラス固有の関連性を捉えることにより、各クラスラベルの重み付けベクトルを調整します。

arXiv cs.LG