タイムライン検索

2026年5月12日

パラメータゴルフは1,000名以上の参加者と2,000件以上の投稿を集め、厳格な制約条件下でAI支援機械学習研究、コーディングエージェント、量子化、革新的なモデル設計を探索した。

OpenAI

2026年5月29日

人間の協調は、戦略的行動を通じて他者の信念に影響を与える能力に依存している。マルチエージェント強化学習では、対戦相手形成がこの影響を複製しようとしているが、既存の方法は通常、対戦相手のパラメータ、ポリシー、または価値空間内で動作している。

arXiv cs.AI

2026年5月29日

大規模推論モデル（LRM）は英語で強い数学推論性能を達成するが、多くの低・中資源言語ではより信頼性が低い。このギャップはしばしば非英語問題文の理解不足として説明されるが、この見方は不完全である。

arXiv cs.CL

2026年5月29日

大規模言語モデルは強力な推論能力を実現しているが、膨大なパラメータ数と高い推論コストが課題である。本研究では、コンパクト言語モデルにおける適応的推論深度の異なるアプローチを探索し、CosmicFish-HRMを提案している

arXiv cs.LG

2026年5月29日

認知圏論トランスフォーマー(CCT)は3億600万パラメータのアーキテクチャで、事前学習されたGPT-2 Smallバックボーンを圏論から導出された認知的に根拠のあるコンポーネント、および認知科学からのいくつかのインスピレーションで拡張しています。マッチドステップ・プロトコル下(215,000最適化ステップ)で...

arXiv cs.AI

2026年5月29日

ソフトプロンプトチューニングはLLMを特定のタスクに適応させるためのパラメータ効率的な方法ですが、解釈可能性の欠如に悩んでいます。ソフトプロンプトの解釈に関する最近の研究に基づいて、専用のソフトプロンプトから自然言語翻訳モデルへのトレーニング方法を探索します。

arXiv cs.CL

2026年5月29日

コンテキスト蒸留は文脈情報をモデルパラメータに圧縮するが、既存の方法は複数の蒸留された潜在メモリをオラクル以外の設定でどのように保存、検索、安全に活性化するかについて無視することが多い。本研究ではコンテキスト蒸留を潜在メモリ管理問題として定式化する。

arXiv cs.LG

2026年5月29日

フェデレーション強化学習は、生のトラジェクトリを交換することなく、分散エージェントが協力してポリシーまたは価値推定を改善することを可能にします。ただし、FedAvgスタイルのパラメータ平均化は関数空間で一貫性がなく、クライアントが異なるエンコーダを使用したり、同じ非線形ネットワークを使用する場合でも問題が生じます。

arXiv cs.LG

2026年5月29日

多言語LLMは、指示、ソースコンテンツ、および必要な応答言語が一致しない場合にますます使用されています。既存のベンチマークは多言語命令追従評価を拡張していますが、完全にクロスされた設計内でこれら3つの役割を分離することはめったにありません。MTM-Benchを導入します。

arXiv cs.CL

2026年5月29日

パラメータ化理論で導入されたパラメータ活性化アライメント測度であるログアライメント比（LAR）を研究します。これを行列の正規化された2乗特異値のウェイトスペクトル p と正規化された2乗射影値のアクティベーションスペクトル q との重複として再構成します。

arXiv cs.LG

2026年5月29日

推測的デコーディングは、ドラフト・検証パラダイムを通じて大規模言語モデルの推論を加速させますが、語彙サイズの拡大に伴い出力投影層がボトルネックになります。既存の静的プルーニング方法は有効にこのオーバーヘッドを削減しますが、受け入れ率の大幅な低下という課題があります。

arXiv cs.CL

2026年5月29日

大規模言語モデル（LLM）は一般領域内の一般的な推論タスクに対して優れた能力と性能を示していますが、デジタルテキストデータが限定的な言語における文化的に根拠付けられた知識に関しては課題に直面する可能性があります。本論文では、言語固有の文化的知識への対応について調査しています。

arXiv cs.CL

2026年6月1日

arXiv:2605.30374v1 歩行中の股関節筋力と関節モーメントの推定は通常、筋骨格シミュレーションに依存しており、有用であるが時間がかかり臨床設定への適用が難しい。本研究は下肢からのこれらの股関節動力学パラメータを直接予測するための深層学習フレームワークを開発した。

arXiv cs.LG

2026年6月1日

推測デコーディングは大規模言語モデル（LLM）の推論において重要な要素となり、複数のトークンをドラフト作成し並列検証することで高速な生成を実現している。しかし小規模ドラフトモデルは多言語対応で顕著な性能低下が生じる傾向にある。

arXiv cs.CL

2026年6月1日

arXiv:2605.30621v1 発表型：新規 要旨：LLMエージェントは、プロンプト、スキル、メモリ、ツールを含む編集可能な外部ハーネスの周辺に構築されたシステムとしてますますデプロイされており、これらはモデルパラメータを変更することなくタスク実行を形作る。ハーネス自己進化は実行証拠からこれらのハーネスを更新することによってそのようなエージェントを適応させる。しかし...

arXiv cs.AI

2026年6月1日

多言語大規模言語モデルは比喩表現を生成できるが、この動作を駆動する内部信号が言語固有か言語間で再利用可能かは不明である。活動化操向をプローブとして使用し、比喩的・字義的活動化から比喩カテゴリの方向を推定する研究。

arXiv cs.CL

2026年6月2日

AWS環境でLLM（大規模言語モデル）を運用する際の課題に対応する新たな技術アプローチが注目を集めている。GPUインスタンスへのモデル読み込みに要する時間短縮が、これまでの実運用における課題だった。 AWSが提案する解決策は、GPUDirect、Amazon FSx for Lustre、TurboQuantの3つの技術を組み合わせるもの。これらを活用することで、モデルをGPUメモリへ転送する速度を大幅に高速化できる。結果として、より大規模なパラメータ数を持つモデルの推論準備時間が短縮され、LLMが処理可能なテキスト長を示すコンテキストウィンドウの拡大も実現可能となる。 この技術統合により、複雑な推論タスクや長文処理が必要なユースケースでの対応能力が向上する見通しだ。クラウド環境でのAI推論効率化に向けた実装例として、今後の導入が期待されている。 （引用元：AWS Machine Learning Blog）

2026年6月2日

音声認識システムの性能評価に関する新たな課題を解決する研究成果が発表された。従来の評価指標であるWER（Word Error Rate）は、同じ言語でも異なる文字体系で表記された同一単語を誤りと判定する問題があった。 新たに提案された「Script-Normalized WER（SN-WER）」は、評価前に参照文と認識結果の文字表記を各言語の標準文字に統一する手法。インド言語を含む5言語で検証した結果、きれいに録音されたデータセットでは最大12%のモデル性能評価ギャップを改善した。 一方、ノイズが多い実環境のデータセットでは改善幅が限定的だったことから、文字体系の違いが評価の誤差要因となるのは限定的であり、実際の音声認識精度そのものが主要な課題であることが判明。本研究は多言語音声認識システムのより正確な性能測定に貢献する成果として評価される。 （arXiv cs.CL）

2026年6月2日

arXiv:2606.00045v1発表タイプ：新規 抄録：古典的な連続空間ニューラルネットワークは、モジュロ演算や非可換代数などの厳密な数学的対称性にロックインするのに本質的に苦労している。これらの離散的な論理規則を近似するために、しばしば膨大なパラメータスケーリングに頼り、その後でも確率的不安定性をもたらす。

arXiv cs.AI

2026年6月2日

本研究では、低リソース多言語設定での法律文書の分類と要約タスクのための、KANベースのBiGRUモデルの新しいアーキテクチャを提案しています。ドメイン言語に関連する問題に対処し、異なる言語の使用、文脈内の長期依存性に対応することを目指しています。

arXiv cs.CL

2026年6月2日

言語モデルの強化学習におけるトークンレベルのクレジット割当は、通常、ポリシーが完全に訓練可能であるかのように定式化されていますが、実際のLLM-RLパイプラインはパラメータ効率の良い微調整、特にLoRAに依存することが多いです。本論文はこの分離が構造的な失敗モードを隠していることを主張しています。

arXiv cs.LG

2026年6月2日

ソーシャルメディア上でのフェイクニュースの急速な拡散は、特に北アフリカなどの多言語かつリソース不足の環境において大きな課題となっています。本論文では、フェイクニュースの伝播、特性、影響を研究するために設計された大規模多言語コーパスであるBOUTEFを紹介します。

arXiv cs.CL

2026年6月2日

大規模多言語並列テキストには、非並列文ペアと低品質な翻訳という2つの異なる問題が含まれることがよくあります。このようなデータの模型ベース評価を、多言語埋め込みを用いた並列性評価と参照不要の品質推定という2つの独立したコンポーネントに分解します。

arXiv cs.CL

2026年6月2日

有限要素解析(FEA)は固体力学における最も重要な数値解析手法です。FEAの課題には、初心者ユーザーにとって急な学習曲線と、境界条件、荷重ケース、解析パラメータなどの重要なシミュレーションコンポーネントの定義が誤っている場合の誤ったシミュレーションが含まれます。

arXiv cs.AI

2026年6月2日

学習した行動多様体に埋め込まれた低次元連続パラメータで条件付けされた拡散ポリシーを学習するためのフレームワークであるParameterized Diffusion Policy (PDP)を提案します。潜在表現間の距離が意味的類似性を反映するようにこの多様体を構築します。

arXiv cs.AI

2026年6月2日

継続事前学習（CPT）は大規模言語モデルを新しい言語に拡張する実用的な方法ですが、ナイーブなファインチューニングは壊滅的忘却を通じて既存の能力を低下させます。言語ファミリー周辺のトレーニングを組織することはクロスランゲージ干渉を減らしますが、それだけでは十分ではありません。

arXiv cs.CL

2026年6月2日

LLMは税務、労働保護、医療、教育、年金、行政手続きなどの質問に対応することが増えており、その有用性は多くの場合、適用される管轄区域に依存します。多言語ユーザーは国に関連した言語ではなく、最も快適な言語で質問を書くことがあります。

arXiv cs.CL

2026年6月3日

マイクロソフトが開発者向けデスクトップPC「Surface RTX Spark Dev Box」を発表した。同製品はNvidia製のBlackwell RTXプロセッサと128GBのメモリを搭載し、ローカル環境で大規模AIモデルの実行を実現する。 従来、大規模な言語モデルやAIモデルはクラウドサービスを通じて利用されてきた。その際、ユーザーはトークン数に応じた課金が必要であった。新デバイスは120億パラメータを超えるAIモデルをオンプレミスで直接実行できるため、クラウド依存からの脱却を可能にする。 これにより開発者はネットワーク接続に左右されず、継続的な利用料を発生させることなくAI開発を進められる。マイクロソフトがクラウドベースの課金モデルへの代替案を提供する形となり、AIアクセスの民主化をさらに推し進める施策として注目される。 （引用元：VentureBeat AI）

VentureBeat AI

2026年6月3日

Amazon Forgeの微調整に最適パラメータ設定が重要 アマゾン ウェブ サービスは、独自の大規模言語モデル「Amazon Nova Forge」をドメイン固有のタスクに適応させる際の課題について、技術ブログで解説した。 モデルの微調整において、学習率やバッチサイズといった訓練パラメータの設定は、特定領域での性能向上と汎用性維持のバランスに大きく影響することが明らかになった。過度なカスタマイズは汎用性を損なう一方、最適化が不十分では期待される性能向上が得られないという課題がある。 同社は、これらのパラメータを効果的に調整するための戦略と、計算資源を無駄にする一般的な失敗パターンを早期に検出する方法を紹介。実践的なアプローチにより、企業が限られたリソースでモデルの最適化を進める道筋を示している。 この指針は、生成AI導入を検討する企業にとって実装効率の向上に有用な知見となりそうだ。 （引用元：AWS Machine Learning Blog）

AWS Machine Learning Blog

2026年6月3日

ドメイン固有のタスク用のファインチューニングは、一つの領域でのパフォーマンス向上をモデルの一般的な能力の低下なしに実現することを意味しており、このバランスを正しく取ることは見た目以上に難しいものです。

AWS Machine Learning Blog