タイムライン検索

2026年5月30日

監督オーウェン・ハリス、ショーランナーのアイラ・パーカー、スタント・コーディネーターのロブ・インチが、HBOのプリクエルの最大アクション・シーケンスの過酷な撮影について解説している...

The Hollywood Reporter

2026年6月1日

量子コンピューティングはノイズの影響を受けやすいNISQ（ノイズを伴う中規模量子）の時代に留まっており、パフォーマンスが大きく制限されている。この制限に対処するには、ゲートシーケンス回路の仕様を超えたハードウェア対応機能（中回路測定と古典的フィードバックを含む）が必要な場合がある。

arXiv cs.LG

2026年6月10日

arXiv:2606.10044v1 新規発表 概要：企業は生産性向上、コスト削減、製品・サービスの強化のため、AI搭載ツールの導入を拡大しています。しかし、AIの変革の可能性は、事前に定義されたタスクの自動化を超え、知能システムが高レベルの戦略的目標からビジネスイニシアチブを計画、最適化、実行できるようにすることにあります。本稿では、ビジネスおよび組織環境に特化したワールドモデルであるビジネスワールドモデル（BWM）の概念とアーキテクチャを紹介します。AI、認知科学、制御理論におけるワールドモデルに着想を得たBWMは、ビジネスの状態、ダイナミクス、制約、目標、および実行可能なアクション空間をエンコードし、自律的な意思決定をサポートします。ビジネスの状態、ダイナミクス、アクションが主要なビジネスエンティティにリンクされた、ビジネスセマンティクス中心の定式化を提案します。このフレームワーク内で、エージェントは代替アクションシーケンスをシミュレートし、将来のビジネス成果への影響を推定し、不確実性下でのトレードオフを評価できます。

arXiv cs.AI

2026年6月11日

arXiv:2606.11203v1 新規発表 構造化シーケンス生成では、しばしば1つの出力で複数の入力由来の制約を満たすことがモデルに求められます。標準的なデコーディング手法では、流暢な継続に高い確率を割り当てる一方で、必要なアンカーをすべて同時に実現する継続には低い確率を割り当てる可能性があります。これをレアケース逐次推論問題として研究します。LatticeBridgeは、コンパクトなプレフィックス言語モデル、インスタンスコンパイルされたサーフェスオートマトン、そしてリサンプリング、マルチレベル分割、インスタンス提供フレーズから導出されるソースサポート提案項を備えたツイスト逐次モンテカルロ（SMC）デコーダーを組み合わせます。制約表現は各入力インスタンスからコンパイルされ、手動でキュレーションされた語彙クラスに依存しません。

arXiv cs.CL

2026年6月12日

C++は、C言語より派生した歴史のあるオブジェクト指向言語です。このC++は、システムプログラミングにも適した高速で緻密なコーディングのための言語ですが、絶え間なく進化を続けており、モダンな言語仕様やライブラリ機能も貪欲に取り込んでいます。

CodeZine

2026年6月16日

Causal Transformersは、同時分布の自己回帰的因数分解を通じてシーケンスをモデル化し、効率的な左から右へのデコーディングと条件付き尤度計算を可能にします。しかし、任意の条件（例：過去と未来のトークンに条件付けられたテキストブロック）からのサンプリングや評価を効率的に行うことはできません。最近の研究では、新しいアーキテクチャを通じてこの問題の解決を目指していますが、そのような条件のモデル化が最適でなく、生成結果が低下することがよくあります。我々は、標準的なCausal Transformersに簡単な変更を加えることで、単一のフォワードパス内で、過去、未来、混合コンテキストを含む任意の条件からの評価とサンプリングを可能にするArbitrary Conditionals GPT (AC-GPT)を提案します。先行研究とは異なり、我々の手法は、自然言語における高いパフォーマンスと効率的なトレーニングの両方に不可欠な、標準的な左から右への順序と次トークン予測の目的を維持します。重要なのは、この互換性により、既存のLLMを任意の条件付けのためにファインチューニングできることです。

arXiv cs.CL

2026年6月17日

お使いのコンピューターの起動シーケンスを保護するキーの有効期限切れについて、知っておくべきこと

Ars Technica AI

2026年6月18日

はじめに 受託開発やSESの現場にいると、とにかく「図」を作る場面が多いんですよね。 業務フロー図、システム構成図、ER図、シーケンス図、画面遷移図、体制図、CI/CDパイプライン……。設計書のページをめくるたびに図、図、図。しかもこれ、お客様に出す資料だったりするので、...

Qiita 人気記事

2026年6月19日

大規模言語モデル（LLM）は、自己回帰的生成によって言語モデリングに革命をもたらし、幅広いタスクで高いパフォーマンスを実現しました。最近、拡散言語モデル（DLM）は、次トークン予測ではなく反復的なノイズ除去を通じてテキストを生成する代替パラダイムとして登場し、シーケンス全体の並列的な洗練を可能にしました。多数の拡散ベースのアーキテクチャが提案されていますが、評価プロトコル、データセット、推論予算、生成ハイパーパラメータの違いにより、それらの能力を比較し、提供されるトレードオフを理解することが困難になっています。本研究では、最新のDLMの体系的な実験的分析を提示します。具体的には、推論、コーディング、翻訳、知識、構造化問題解決を網羅する8つのベンチマークで8つの最先端DLMを評価し、生成品質と計算効率の両方を明確に考慮します。下流タスクの評価を超えて、ノイズ除去ステップ、コンテキスト長、ブロックサイズ、並列アンマスキング戦略を含む、推論時間における主要因子の影響を分析し、大規模な実験を、同一条件下でトレーニングされた小規模モデルの制御された比較によって補完します。

arXiv cs.AI

2026年6月20日

はじめに 受託開発やSESの現場にいると、とにかく「図」を作る場面が多いんですよね。 業務フロー図、システム構成図、ER図、シーケンス図、画面遷移図、体制図、CI/CDパイプライン……。設計書のページをめくるたびに図、図、図。しかもこれ、お客様に出す資料だったりするので、雑には作れません。

はてなブックマーク IT

2026年6月23日

ワールドモデルを用いた計画は、予測誤差の累積と最適化可能な目標の定義の困難さによってボトルネックとなっています。視覚的ターゲットは正確な局所勾配を提供しますが、遠方への誘導は貧弱です。一方、言語は柔軟ですが、ノイズの多いクロスモーダルアラインメントによる制約や、モデルベース計画のサンプリング負荷の高い性質に適さない大規模生成モデルへの依存といった限界があります。これらの課題に対処するため、我々はLAGO（Latent Goal Prediction from Language）というフレームワークを提案します。これは、言語指示とアクション条件付きロールアウトの両方から中間目標状態のシーケンスを、すべて同じ潜在空間内で予測します。単一のグローバル目標への最適化ではなく、LAGOは指示を明示的に予測され、局所的に処理可能な潜在的サブゴールへと動的に分解します。これらのサブゴールをオンラインで更新し、計画中にソフトミニマム軌道コストを使用することにより、LAGOはエージェントが長期間にわたって一貫した潜在的軌道をたどることを可能にします。

arXiv cs.AI

2026年6月23日

人は限られた認知的リソースの下で、シーケンス経験から抽象的で再利用可能な知識をどのように構築するのでしょうか？この問いに答えるため、私たちはレート歪み理論とプログラム誘導の最近の進歩を統合し、事前知識が将来の構造のエンコーディングの容易さや発見のしやすさをどのように形作るかを記述します。これは、メモリと計算の制約によって共同で管理される、別個のローカル（タスク内）とグローバル（タスク間）のライブラリを持つ階層型アダプター文法（HAG）で形式化されます。シミュレーションでは、HAGは固定文法や浅いチャンキング手法よりも優れたレート歪みトレードオフと強力な一般化を達成します。オンラインのメロディックシーケンス学習実験では、参加者の想起エラーは系統的な単純化を反映し、推論されたプログラム境界で反応時間が増加しました。試行ごとの適合はさらに、階層型ライブラリが想起とサンプル外の継続選択の両方における個々の違いを最もよく説明し、すべての代替モデルを上回ることを示しました。これらの発見は、構造化学習を、経験の順序が学習者が構築する将来の抽象化を形作る、制約付きプログラム誘導として位置づけています。

arXiv cs.AI

2026年6月23日

訓練されたトランスフォーマーは、中央値よりもはるかに大きな値を持つ少数の隠れ次元で、シーケンス開始トークンに集中する大規模なアクティベーションを確実に発達させます。これらの外れ値が、残留ストリームの過負荷になった読み書きの役割の除去可能なアーティファクトなのか、それとも機能的な必要性なのかは活発に議論されています。アーキテクチャ的介入により、アーティファクト仮説を直接テストします。 Ledger Residuals というアーキテクチャは、残留ストリームを、中間計算が自由に上書きできる変更可能なスクラッチストリーム（Deliberation）と、モデルが読み出す表現を保持する保護されたデコード専用アキュムレータ（Commitment）に分割します。大規模なアクティベーションが、1つのストリームがスクラッチパッドと回答の両方になることを強制される場合にのみ存在するのであれば、専用の回答チャネルがあればそれらを削除できるはずです。しかし、そうではありませんでした。

arXiv cs.LG

2026年6月26日

本記事では、AWS上のBlackwellのアーキテクチャを最大限に活用するために、Amazon SageMaker AIでのトレーニングジョブを構成する方法を説明します。Blackwellの拡張メモリを活用するバッチサイズとシーケンス長の選択方法、モデルサイズ（1B～64Bパラメータ）に適した精度フォーマットの選択、アクティベーションチェックポインティングの戦略的な適用方法を学びます。

AWS Machine Learning Blog

2026年6月26日

全ゲノムシーケンス（WGS）ベースの薬剤耐性（AMR）予測は高い精度に達していますが、既存のモデルには、ニューラルアトリビューションを確立された生物学的経路に結びつけるメカニズムが欠けています。本稿では、WHOの変異知識グラフ（KG）をニューラルゲノムモデルにおける構造化された生物学的制約として統合する、新しいニューロシンボリックフレームワークであるKG-TRACEを紹介します。統計パターンを個別に学習する既存の方法とは異なり、KG-TRACEは、学習された認識的信頼ゲートを通じてゲノム特徴とRotatEベースのKG埋め込みを融合し、ニューラル証拠とシンボリック生物学的知識の重みを動的に調整します。CRyPTIC M. tuberculosisコホートで評価されたKG-TRACEは、イソニアジドに対して0.9760のAUROCを達成し、競争力のある精度を実現しましたが、その主な価値は予測性能の向上ではなく、シンボリックな根拠付けにあります。

arXiv cs.LG

2026年6月29日

マルチトークン予測は、トレーニング中のデータ密度を向上させ、下流のテキスト生成品質を改善することが示されており、自己投機的デコーディングの事実上のアプローチとして機能します。MTPヘッドを使用する既存の基盤モデルおよびオープンソースモデルは、生成シーケンス全体で静的なツリーベースの注意トポロジーにコミットしており、これは、推論の深さ、したがって検証中に必要な計算量が、コンテキストに関係なく一定であることを意味します。これは、自然言語のエントロピーパターンとは根本的に一致していません。自然言語では、低エントロピー領域は信頼性の高いマルチステップドラフトをサポートすることが多いですが、高エントロピー領域はより保守的な推論を必要とします。これを解決するために、ローカル生成エントロピーの実行中の推定値に基づいて、タスク固有のパレート最適ツリーのセットからツリーベースの注意トポロジーを切り替える、トレーニング不要のスケジューラであるエントロピー誘導型マルチトークン予測（EntMTP）を提案します。

arXiv cs.CL

2026年6月29日

構造生物学のための基盤モデルは、生体分子構造の予測において目覚ましい性能を達成し、タンパク質や低分子の設計に有望視されている。しかし、その出力の根幹をなす内部特徴を理解することは依然として困難である。標準的なスパースオートエンコーダー（SAE）は、トランスフォーマー風のシーケンス埋め込みには効果的だが、ペアフォーマー風のアーキテクチャにはそのまま適用できない。ペア表現に単純に作用させると、特徴量が二次関数的に増加し、シーケンス表現とペア表現にまたがって分散する概念が不明瞭になる。そこで我々はPairSAEを開発した。これは、ペアテンソルをNモードSVDによってトークンごとの相互作用役割に要約し、その後、スパースオートエンコーダーを使用して、シーケンス表現とペア表現の両方をデコードできる共通のトークンレベル特徴セットを学習する。PLINDERタンパク質-リガンド複合体のBoltz-2活性化で評価した結果、PairSAEはUniProtアノテーションと一致し、Boltz-2親和性値を予測する解釈可能な特徴量をもたらした。

arXiv cs.LG

2026年6月29日

D層のトランスフォーマーブロックから構築された新しいリカレントニューラルネットワークアーキテクチャであるコンテキスト対応トランスフォーマーを紹介します。このアーキテクチャは、各トークンがブロックに入る前に事前コンテキスト化します。左から右への生成中、補正ネットワークは、過去のコンテキストのキャッシュされた要約である前の位置のブロック出力を現在のトークン埋め込みと組み合わせるため、トークンは生の埋め込みではなく、すでにコンテキスト化された状態でブロックに入ります。逐次推論では、補正チェーンにより、アーキテクチャはリカレントニューラルネットワークになります。トレーニングのために、補正プロセスをシーケンス全体でK回展開し、各ステップですべての位置を並列処理します。事前トレーニング済みのトランスフォーマーは、ゼロ初期化された補正FFNを追加してファインチューニングすることで、コンテキスト対応モデルに変換することもできます。幅、深さ、ブロックサイズ、および2つのデータセット全体で評価を行い、すべての比較は標準トランスフォーマー、バリアント、およびアブレーションに対して行われます。

arXiv cs.CL

2026年6月30日

本研究では、感情的価数が子供の認識記憶における順序依存構造にどのように影響するかを実証する。感情的価数を持つ玩具のシーケンスの正しい想起は、その玩具自体の価数だけでなく、その前後に示された玩具の価数にも依存した。標準的な心理学的モデルでは、イベント（シーケンスで提示された玩具セット）を横断して順序依存性が異なることは確認されているものの、精度は低く、感情的な対象の記憶がセット内の他の対象にどのように影響するかを反映していない。価数を考慮した古典的なテンソルネットワークモデルは、研究結果のモデリングにおいて77.98%の精度を達成できた。これは厳密には「量子認知」モデルではないものの、この大幅な精度の向上は、感情記憶のような順序依存現象のモデリングにおける量子着想手法の価値を示している。さらに、本研究で導入されたタスクプロトコルは、認知の古典的および量子様モデルを用いた分析のために、子供の感情的時系列記憶を探求するための新規かつ実用的なツールを提供する。ツールを提供する。

arXiv cs.LG

2026年6月30日

単一細胞RNAシーケンス（scRNA-seq）のクラスタリングは細胞タイプの同定に不可欠ですが、高次元性、スパース性、ドロップアウト、技術的ノイズが堅牢な発現表現と細胞グラフ構築を妨げます。既存のマスクトランスフォーマーは主に特徴再構築のための発現回復を使用しますが、グラフクラスタリング手法は通常、固定されたKNNグラフに依存し、回復された発現をグラフ最適化にフィードバックしません。本研究では、scRNA-seqクラスタリングのためのKAN誘導型動的グラフマスキング学習フレームワークであるscKDGMを提案します。scKDGMは、細胞アイデンティティを摂動させるグラフ認識型分布保持型遺伝子マスキング（GDP-Mask）、マスクビュー表現を学習するためのKANベースのTAKGCNエンコーダー、動的グラフを構築するためのマスク誘導型発現回復、および回復シグナルをトポロジー更新に転送するためのクロスビュー対照学習を使用します。ZINB損失は過分散とゼロインフレーションをモデル化します。

arXiv cs.LG

2026年7月3日

公開されているリチウムイオン電池データセットは、健全性推定、残存耐用年数予測、異常検知、電気化学診断、セカンドライフ分析、電池安全性研究などでますます活用されています。しかし、これらのデータセットは、化学組成、モダリティ、規模、ラベル品質、シーケンス構造、アクセス状況、前処理の複雑さなどが大きく異なります。これらの違いは、データセットが近短期のハイブリッド量子古典機械学習ワークフローに適しているかどうかに直接影響します。本稿では、リチウムイオン電池データセット発見のための量子対応メタデータフレームワークであるイオンセンス-QKGを発表します。EV-Battery-IonSenseインデックスから開始し、提案されたフレームワークは、タスクタイプ、センシングモダリティ、化学組成、ラベルの利用可能性、シーケンスタイプ、前処理要件、候補となる量子エンコーディング、推定される量子ビット範囲、NISQ（Noisy Intermediate-Scale Quantum）の実現可能性など、量子関連メタデータで公開電池データセットのレコードを拡張します。

arXiv cs.LG

2026年7月3日

既存のプロンプト圧縮手法は、テキストをフラットなトークンシーケンスとして扱っており、重要な情報がしばしば複数の場所に分散し、局所的な構文依存関係と大域的な意味関係の両方を通じて接続されているという、情報の分散的な性質を捉えられていません。このような関係構造は、トークンや文をノード、依存関係をエッジとするグラフとして自然に表現されます。この目的のために、我々はRAGPを提案します。これは、きめ細やかなアテンションベースの依存関係と粗い意味関係を共同でモデル化するマルチプレックスグラフ上での冗長性認識グラフ枝刈りとしてプロンプト圧縮を定式化するものです。この異種構造（密な局所サブグラフと疎な大域的接続）における冗長でないノードを効率的に特定するために、我々はレヴィウォークを採用します。このレヴィウォークは、そのヘビーテイルステップ分布により、局所的な探索と大域的な探査のバランスを自然に取ります。

arXiv cs.CL

2026年7月3日

人工知能（AI）の進歩と広範な応用にもかかわらず、AIモデルの解釈可能性、特に心電図（ECG）認識のような医療分野における専門領域では、依然として課題が残っています。本稿では、エンドツーエンドの畳み込みニューラルネットワークにのみ依存するのではなく、ECG認識のためのドメイン知識ベースのグラフ畳み込みネットワークを用いた新しいアプローチを提案します。ECG解釈に不可欠なPRQSTの主要なランドマークポイントをドメイン知識として組み込みます。二重ストリーム有向グラフは、ECGサイクル内の関係とサイクル間の関係の両方をモデル化するために採用されます。具体的には、空間有向グラフは主要ポイント間の位置関係を捉え、時間有向グラフは拡張ECGシーケンスにおける隣接サイクル間の時間的依存関係を区別します。9つのカテゴリにECGを特別に分類する最初の中国ECGインテリジェントコンペティションデータセットでの実験結果は、提案モデルの有効性を証明しています。全体の平均F1スコアは88.1%、希少カテゴリの平均F1スコアは76.3%であり、いずれも最先端モデルを上回っています。

arXiv cs.LG

2026年7月3日

推論言語モデルは、しばしば長い思考連鎖（CoT）を生成しますが、これはデコーディングフェーズ中に大量のKVキャッシュを蓄積し、デコーディング遅延の増大とスループットの制限を招きます。これらの問題に対処するため、KVキャッシュ圧縮は、後続のデコーディングに有用なKVペアを保持しながら重要でないKVペアを選択的に削除することでメモリオーバーヘッドを削減する有望な技術として登場しました。それにもかかわらず、既存のKVキャッシュ圧縮方法には2つの主要な限界があることを特定しました。1）それらの閾値トリガー圧縮ポリシーは、スループットの改善が限定的であるか、あるいはスループットを低下させる可能性があり、シーケンスの特定のブロックからKVペアを完全に削除する可能性があり、情報損失を悪化させる可能性があります。2）それらは通常、孤立したKVペアまたは厳格な境界を持つ固定サイズのチャンクのいずれかを保持し、任意のトークン位置で重要な柔軟なサイズのチャンクを保持できません。

arXiv cs.CL

2026年7月6日

スパース混合エキスパート（MoE）アーキテクチャは、各レイヤーで各トークンを独立にエキスパートのサブセットにルーティングします。本稿では、MoEの計算を、トークンが全レイヤーにわたって行うエキスパート選択のシーケンスであるエキスパートパスの観点から考察することを提案します。

Apple Machine Learning Research

2026年7月7日

Vision Language Models (VLMs) は、テキストをレンダリングされた画像として処理し、テキストを長いトークンシーケンスにトークン化する必要性を回避するというエキサイティングな可能性を提供します。VLMの画像エンコーダーは固定サイズの画像を固定数の視覚トークンにマッピングするため、レンダリング解像度の変更はきめ細かな圧縮ノブを提供します。

Apple Machine Learning Research

2026年7月7日

クロスリンガル検索拡張生成（RAG）は、多くの場合、英語証拠レジームで展開されます。このレジームでは、ユーザーは多様な言語でクエリを発行しますが、検索されたパッセージは英語のままです。この設定では、強力なベースモデルがあっても生成が失敗する可能性があります。英語の証拠は言語ドリフト（英語またはコードスイッチング出力）を誘発し、モデルは非英語の回答を生成する際に証拠を信頼性なく使用します。これらの失敗は、2つのポストトレーニングの課題に起因すると考えられます。(i) エラーはプレフィックス依存であり、固定軌道監督はプレフィックスの不一致に苦しむ。(ii) シーケンスレベル（部分的に離散的/ジャッジベース）の報酬は、ノイズの多いクレジット割り当てと高分散の更新をもたらします。本研究では、報酬最適化と学生が訪問したプレフィックスでのオンポリシー蒸留を組み合わせた教師正則化RLレシピ、TR-RAGを提案します。

arXiv cs.CL

2026年7月7日

時系列予測は、金融、エネルギー、交通、公衆衛生、産業モニタリングにおける意思決定を支援します。最近の基盤モデルは予測タスク間の転送を改善しますが、多くは中央集権化されたデータとトランスフォーマーの注意機構に依存しており、長くて高次元でプライバシーが保護された信号への使用を制限します。本稿では、逆順シーケンス埋め込み、双方向マンバ状態空間デコーダー、分位数回帰、フェデレーテッド学習を組み合わせた確率的予測フレームワーク、QuantFlowを発表します。各変数は完全な観測ウィンドウにわたって埋め込まれ、順方向と逆方向で処理され、5つの条件付き分位数が投影されます。TSMixupは、シーケンス構造を維持しながら、ディリクレ重み付け補間によって時間的多様性を拡大します。実験は、仮想通貨、交通、電力、Electricity Transformer Temperature、インフルエンザ、気象データに及びます。

arXiv cs.LG

2026年7月7日

長期行動予測とは、長い履歴シーケンスに基づいてユーザーの次の行動を推測することを目指しており、人工知能分野で重要な役割を果たしています。大規模言語モデル（LLM）の台頭は、シーケンシャル行動予測の有望な方向性を提供しますが、LLMは長期行動予測に取り組む際に、潜在的な行動パターンの誘導とモデル固有の認知的バイアスに苦労します。従来のメモリ管理手法は、履歴シーケンスの負担を軽減しようとすることでこのタスクに対処しようとするコンテキスト圧縮パラダイムに従いますが、中核的な課題を解決できません。本稿では、長い履歴シーケンスを負担ではなく活用されるべき貴重なリソースとして再考するパラダイムシフトを提唱し、それに応じてPraMemを提案します。PraMemは、長い履歴シーケンスに対して事前に練習を行い、経験的メモリを構築し、それによって正確な長期行動予測の補助入力として機能します。多様なタスクにわたる広範な実験により、PraMemが従来の手法よりも優れたパフォーマンスを達成することが示されており、より詳細な分析により、経験的メモリのメカニズムと進化に関する貴重な洞察が得られます。

arXiv cs.CL

2026年7月8日

アルゴリズム情報理論（AIT）に基づいた構造的シーケンス分析の新しい手法を提案します。その核心は、言語シーケンスにおける繰り返し部分構造間のネスト構造と階層的関係を抽出するラダーパス（Ladderpath）アプローチであり、これはデータを最小生成プログラムによって記述するというAITの原則の実装です。これらの構造は、正規化圧縮距離（NCD）と、ラダーパス表現から直接導出される2つの代替距離という、3つの距離尺度を定義するために使用されます。k近傍分類器と統合されたこれらの距離は、インディストリビューション（in-distribution）、アウトオブディストリビューション（OOD）、および少量のデータでのテキスト分類タスク全体で強力かつ一貫したパフォーマンスを達成します。特に、3つの手法すべてが、OODおよび低リソース設定において、gzipベースのNCDとBERTの両方を上回ります。これらの結果は、ラダーパスによって捉えられた構造的表現がシーケンスの本質的な特性を保持しており、テキストモデリングのための軽量で解釈可能、かつトレーニング不要な代替手段を提供することを示しています。

arXiv cs.CL