News in Focus

Anthropic に関するニュース

60件の関連ニュースを新しい順に表示しています。

トランプ氏、AI規制は不要と発言、Anthropic CEOダリオ・アモデイ氏を批判
海外9月15日 03:59

トランプ氏、AI規制は不要と発言、Anthropic CEOダリオ・アモデイ氏を批判

トランプ政権は、中国に対する圧倒的な技術的優位を求める中、AIの急速な成長とデータセンターの開発を奨励してきた。

出典: CNBC World

AnthropicのMCP共同作者が来日、基調講演で語るこれからのMCP注力領域。AGNTCon+MCPCon Japan 2026
テクノロジー9月15日 00:55

AnthropicのMCP共同作者が来日、基調講演で語るこれからのMCP注力領域。AGNTCon+MCPCon Japan 2026

AIエージェントおよびMCP(Model Context Protocol)を主題としたイベント「AGNTCon+MCPCon Japan 2026」が9月10日に東京渋谷のイベントホールで開催されました。主催はLinux Foundati...

出典: Publickey

OpenAIやAnthropicなどAIベンダごとのAPIの違いを吸収し統合する「Agent Router」、Linux Foundation傘下で業界標準へ
テクノロジー9月15日 00:51

OpenAIやAnthropicなどAIベンダごとのAPIの違いを吸収し統合する「Agent Router」、Linux Foundation傘下で業界標準へ

MCPやAGENTS.md、Agent2AgentプロトコルなどのAIエージェントに関する関連技術の標準化推進や開発などを行うLinux Foundation傘下のAgentic AI Foundation(AAIF)は、オープンソースとし...

出典: Publickey

「静かなる冷戦」:AIの減速を求める声が米中間の新たなフロンティアを切り開いた理由
海外9月14日 23:23

「静かなる冷戦」:AIの減速を求める声が米中間の新たなフロンティアを切り開いた理由

Anthropic CEOがAI技術への中国からのアクセス制限を主張し、米国の技術的支配戦略との非難を招いた。

出典: Al Jazeera English

Microsoft、将来のAIモデルに制限を設ける 業界がフロンティア開発を抑制する中
海外9月14日 22:38

Microsoft、将来のAIモデルに制限を設ける 業界がフロンティア開発を抑制する中

Microsoftは、AnthropicやOpenAIといったパートナーと共にモデル開発を加速させる中で、責任あるAI企業として見られたいと考えている。

出典: CNBC World

AIにブレーキをかけるべきか?
海外9月14日 22:02

AIにブレーキをかけるべきか?

ドナルド・トランプ米大統領は、AI市場でアメリカが中国に後れを取ることを懸念しており、過度な規則や規制は避けるべきだと述べている。最近、OpenAIやAnthropicなどのトップ幹部を含む業界関係者らが、AIの開発方法が人類を脅かす可能性があると警鐘を鳴らし、さらなるチェック体制の導入を求めている。

出典: France 24

マイクロソフト、「AIよりも人」を強調 - 安全性への懸念受け
ai9月14日 22:00

マイクロソフト、「AIよりも人」を強調 - 安全性への懸念受け

マイクロソフトは、AIモデルの進歩に対する安全性の懸念が高まる中、本日37ページの「人間中心のAI行動規範」を発表する。Anthropic CEOのダリオ・アモデイ氏は週末、AI開発の協調的な減速を呼びかけた。

出典: The Verge AI

中国、AI分野での「悪意ある競争」との指摘に反論
海外9月14日 20:31

中国、AI分野での「悪意ある競争」との指摘に反論

AnthropicのCEOがAI開発のペースダウンを呼びかけ、中国が先行するのを阻止すべきとの発言を受けたもの。

出典: BBC World

AI分野における「悪意のある競争」との指摘に中国が反論
海外9月14日 20:31

AI分野における「悪意のある競争」との指摘に中国が反論

AI開発のペースを巡る国際的な議論が活発化する中、中国はAI分野における「悪意のある競争」との指摘に対し、強く反論しています。 この指摘は、米国のAI企業AnthropicのCEOが、中国がAI開発競争で先行することを防ぐための開発ペースの遅延を提案したことに端を発しています。AI技術の急速な進展がもたらす潜在的なリスクへの懸念から、開発を一時停止すべきだとの声が一部で上がっており、こうした動きの中で中国に言及した形です。 しかし、中国側はこの提案に対し、自国のAI研究開発への懸念や、国際社会における公正な競争の原則に反するものであるとの立場を示し、反論しました。AI技術の発展は世界共通の課題であり、特定の国だけを対象とした不当な規制や競争の制限は受け入れられないとの意向を表明しています。 今後、AI技術の倫理的な開発と国際協力のあり方について、さらなる議論が求められることになりそうです。 BBC World

出典: BBC World

盛り上がる「AI減速」論に「勝手にどうぞ。許可を求めるな」 トランプ政権幹部(Impress Watch)
テクノロジー9月14日 19:10

盛り上がる「AI減速」論に「勝手にどうぞ。許可を求めるな」 トランプ政権幹部(Impress Watch)

AnthropicやOpenAIが提案するAI開発の「減速(Pacing)」案が注目を集める中、米国の科学技術に関する大統領顧問会議(PCAST)の共同議長であるデビッド・サックス(David Sac

出典: Yahoo!ニュース IT

Dario Amodei氏、最先端AIの開発減速を呼びかけ、Musk氏やAltman氏も反応 ──アライメントの確保と第三者評価が論点に
テクノロジー9月14日 18:08

Dario Amodei氏、最先端AIの開発減速を呼びかけ、Musk氏やAltman氏も反応 ──アライメントの確保と第三者評価が論点に

AnthropicのDario Amodei氏は9月12日、最先端AIの能力向上の速度を抑え、安全対策に取り組む時間を確保するよう呼びかけるブログ「We Must Pace the Frontier」をXで紹介した。

出典: gihyo.jp

アンソロピックはIPO上場先に、ナスダックを選択した
business9月14日 18:05

アンソロピックはIPO上場先に、ナスダックを選択した

アンソロピック(Anthropic)がIPOの取引所にナスダック(Nasdaq)を選択。AI企業の動向と上場先選びの背景を詳しく解説します。

出典: Business Insider Japan

GPT-6 AstraとClaude Fableの性能を引き出すハーネス「Fusion」が登場、Claude CodeやCodexで使う場合と同等の性能を示しつつコストを最大39%削減
科学9月14日 12:56

GPT-6 AstraとClaude Fableの性能を引き出すハーネス「Fusion」が登場、Claude CodeやCodexで使う場合と同等の性能を示しつつコストを最大39%削減

AIエージェントの「Devin」を開発するCognitionが、OpenAIの「GPT-6 Astra」やAnthropicの「Claude Fable」の性能を引き出すハーネス「Fusion」を開発しました。続きを読む...

出典: GIGAZINE

ジム・クレイマー、Anthropic CEOの減速マニフェストに疑問を呈し、行動計画を提示
海外9月14日 08:47

ジム・クレイマー、Anthropic CEOの減速マニフェストに疑問を呈し、行動計画を提示

彼の終わりのない宣言にはうんざりしているが、ダリオ・アモデイは、支出抑制が進めば多くの株式に影響を与えるであろう点を提起している。

出典: CNBC World

トランプ政権のサックス氏、AI「ペース調整」論に苦言 「規制がなければできないふりをやめろ」
テクノロジー9月14日 08:14

トランプ政権のサックス氏、AI「ペース調整」論に苦言 「規制がなければできないふりをやめろ」

大統領科学技術諮問委員会のデビッド・サックス共同議長は、AnthropicとOpenAIのトップによるAI開発減速の提案を批判した。減速を望むなら規制や他者の許可を待たずに自ら実行すべきだと指摘。

出典: ITmedia NEWS 速報

AI開発を「遅らせる」 Anthropic CEOが示す安全策と駆け引き
テクノロジー9月14日 07:00

AI開発を「遅らせる」 Anthropic CEOが示す安全策と駆け引き

話題になってますね。 Anthropic の CEO を務めるダリオ・アモデイ氏が先日に公開した論考で、AI モデルの能力を改善するペースを落とす必要があると主張している件です。 先日公開された OpenAI の As […]

出典: THE BRIDGE

インサイト・パートナーズのデベン・パレク、他社がOpenAI・Anthropicに注力する中、なぜ同社は多角化しているのか
テクノロジー9月14日 06:30

インサイト・パートナーズのデベン・パレク、他社がOpenAI・Anthropicに注力する中、なぜ同社は多角化しているのか

著名なベンチャーキャピタルであるインサイト・パートナーズのデベン・パレク氏は、AI分野における同社の投資戦略について、他社がOpenAIやAnthropicといった特定の企業に集中する動きとは一線を画し、多角化を重視する理由を説明しました。900億ドル規模の運用資産を持つ同社は、AI市場が急速に進化する中で、あえて幅広い分野への投資を継続しています。 パレク氏は、この多角化戦略が、将来的な技術革新の波に柔軟に対応し、リスクを分散させるための重要なアプローチであると考えているようです。また、同社のポートフォリオ管理における戦略的な判断として、過去にはゼネラル・カタリストへのレゴラ社の売却があったことにも触れました。この一連の発言は、AI投資におけるインサイト・パートナーズの独自性と、将来を見据えた長期的な視点を示唆しています。 TechCrunch

出典: TechCrunch

Insight PartnersのDeven Parekh、皆がOpenAIとAnthropicに賭ける中、同社が多角化する理由を語る
テクノロジー9月14日 06:30

Insight PartnersのDeven Parekh、皆がOpenAIとAnthropicに賭ける中、同社が多角化する理由を語る

Insight PartnersのDevin Parekhが、General CatalystにLegoraを失ったこと、競合するAIラボの株式を保有していても問題ない理由、そして皆がOpenAIとAnthropicに集中する中、900億ドルの同社が意図的に多角化を維持している理由について語る。

出典: TechCrunch

トランプ氏とジョンソン下院議長、AI業界は過剰反応していると見解
ai9月14日 04:41

トランプ氏とジョンソン下院議長、AI業界は過剰反応していると見解

AnthropicのCEOダリオ・アモデイ氏がAI開発のペースを落とすべきだと提唱した公開書簡に対し、OpenAIのサム・アルトマン氏やElon Musk氏、Alphabetのデミス・ハサビス氏らが賛同の意を示した。

出典: The Verge AI

「遅すぎる、少なすぎる」:AIリーダーたちの開発一時停止要請に、批判者たちは困惑と疑念
business9月14日 01:54

「遅すぎる、少なすぎる」:AIリーダーたちの開発一時停止要請に、批判者たちは困惑と疑念

AnthropicのCEOによる安全性向上計画は、トランプ政権からAI専門家まで、主に否定的な反応を引き起こしました。OpenAIのCEOやイーロン・マスクは「無謀な」AI開発の一時停止を支持。社説では「AIの制御は、人類が自らの生存を外部委託することはできない」と論じています。

出典: The Guardian Business

AnthropicのAmodei氏、AIのペースダウン提案に対する中国の「最も困難なジレンマ」を指摘
海外9月14日 01:39

AnthropicのAmodei氏、AIのペースダウン提案に対する中国の「最も困難なジレンマ」を指摘

OpenAIのSam Altman氏、Google DeepMindの会長Demis Hassabis氏、Elon Musk氏らは、Amodei氏の提案を歓迎している。

出典: CNBC World

AIスタッフは人類の未来に「本気で怯えている」、元Anthropic研究者がBBCに語る
テクノロジー9月13日 23:53

AIスタッフは人類の未来に「本気で怯えている」、元Anthropic研究者がBBCに語る

AI開発企業Anthropicの元研究者が、AIが人類の未来に対し「本気で懸念を抱いている」とBBCの取材に対し明らかにしました。この元研究者は、AIの急速な進化がもたらす潜在的なリスクについて、内部で真剣な議論が行われていることを示唆しました。 また、同社のCEOもAI開発のペースを緩める必要性を訴えています。その理由として、AIがもたらしうる「深刻な」リスクを挙げており、技術の進歩と安全性の確保のバランスについて、業界全体で慎重な検討が求められている現状が浮き彫りになりました。 BBC World

出典: BBC World

OpenAI CEOとイーロン・マスク、AI開発の「無謀な」進歩にブレーキをかけるよう求める声に賛同
business9月13日 23:02

OpenAI CEOとイーロン・マスク、AI開発の「無謀な」進歩にブレーキをかけるよう求める声に賛同

競合開発者による異例の結束、安全に関する警告を受けて。専門家は、減速を求める声に困惑と疑念。ガーディアン紙の論説:人類は生存を外部委託できない。サム・アルトマンとイーロン・マスクは、Anthropicのダリオ・アモデイCEOが「1年以内にAIの群れがインターネット全体を乗っ取る」能力を持つようになるという警告を受け、AI開発の「ペースを遅くする」よう求める声に賛同した。

出典: The Guardian Business

米Anthropicが最新のAI脅威報告書公開、バイブハッキングなど新たな脅威警鐘(ビジネス+IT)
テクノロジー9月13日 22:35

米Anthropicが最新のAI脅威報告書公開、バイブハッキングなど新たな脅威警鐘(ビジネス+IT)

米Anthropicは2026年9月10日、自社のAIモデルに対する悪用事例をまとめた脅威インテリジェンスレポートを公開した。報告書ではサイバー攻撃から生物兵器開発まで7つの領域における悪用を指摘し

出典: Yahoo!ニュース IT

AI開発「減速」をアンソロピックCEOが提案 アルトマン氏・マスク氏らも賛同
テクノロジー9月13日 20:21

AI開発「減速」をアンソロピックCEOが提案 アルトマン氏・マスク氏らも賛同

AIの開発「減速」の議論が本格化している。Anthropicのダリオ・アモデイCEOは12日(米国時間)、「We Must Pace the Frontier」(フロンティアの歩みを調整しなければならない)と題したブログを投稿し、AIの急速な進歩による事故が続いていることから…

出典: はてなブックマーク IT

AI開発「減速」をアンソロピックCEOが提案 アルトマン氏・マスク氏らも賛同(Impress Watch)
テクノロジー9月13日 19:50

AI開発「減速」をアンソロピックCEOが提案 アルトマン氏・マスク氏らも賛同(Impress Watch)

AIの開発「減速」の議論が本格化している。Anthropicのダリオ・アモデイCEOは12日(米国時間)、「We Must Pace the Frontier」(フロンティアの歩みを調整しなければなら

出典: Yahoo!ニュース IT

AIスタッフは人類の未来に「本気で恐怖」を感じている、元Anthropic研究者がBBCに語る
business9月13日 16:06

AIスタッフは人類の未来に「本気で恐怖」を感じている、元Anthropic研究者がBBCに語る

AI企業のトップが、「深刻な」リスクを理由に、この技術の開発を遅らせるよう呼びかけていることが明らかになった。

出典: BBC Business

AnthropicのアモデイCEO、AI開発の「ペース調整」訴えるエッセイ公開 アルトマン氏とマスク氏も賛同(ITmedia NEWS)
テクノロジー9月13日 08:07

AnthropicのアモデイCEO、AI開発の「ペース調整」訴えるエッセイ公開 アルトマン氏とマスク氏も賛同(ITmedia NEWS)

米Anthropicのダリオ・アモデイCEOは9月12日(現地時間)、個人サイトでエッセイ「We Must Pace the Frontier」を公開し、AI業界はモデルの能力を向上させるペースその

出典: Yahoo!ニュース IT

AnthropicのアモデイCEO、AI開発の「ペース調整」訴えるエッセイ公開 アルトマン氏とマスク氏も賛同
テクノロジー9月13日 08:06

AnthropicのアモデイCEO、AI開発の「ペース調整」訴えるエッセイ公開 アルトマン氏とマスク氏も賛同

AnthropicのアモデイCEOは、AIの急速な自己改善や安全上の脅威を踏まえ、モデルの能力向上ペースを抑える3段階の計画を提言した。第三者の常駐評価者の導入や民主主義国間での協調を訴えている。これに対し、OpenAIのアルトマンCEOやマスク氏も同調し、同様の評価体制を導入する意向を示した。

出典: ITmedia NEWS 速報

米国がAI開発を減速→中国がAIで先行してしまう問題 どう対策? Anthropic CEOの回答は(CNET Japan)
テクノロジー9月13日 07:59

米国がAI開発を減速→中国がAIで先行してしまう問題 どう対策? Anthropic CEOの回答は(CNET Japan)

米国がAI開発を減速すれば、中国が先行するのではないか。Anthropicの最高経営責任者(CEO)、ダリオ・アモデイ氏は、開発の減速を訴える論考「We Must Pace the Frontier

出典: Yahoo!ニュース IT

米国がAI開発を減速→減速していない中国が技術面で先行してしまう問題 どう対策? Anthropic CEOの回答は
テクノロジー9月13日 07:59

米国がAI開発を減速→減速していない中国が技術面で先行してしまう問題 どう対策? Anthropic CEOの回答は

米国がAI開発を減速すれば、中国が先行するのではないか。Anthropicの最高経営責任者(CEO)、Dario Amodei氏は、開発の減速を訴える論考「We Must Pace the Frontier」で、この懸念への対策を示した。

出典: CNET Japan

出会い系の相手はAIだった 4700超の偽人格、2万5000人と会話
テクノロジー9月13日 07:37

出会い系の相手はAIだった 4700超の偽人格、2万5000人と会話

米Anthropicは9月10日、人間との出会いをうたう20超のアプリで、同社のAI「Claude」が架空の相手として利用者と会話していたと発表した。4月の2週間で4700超のAIの人格が、少なくとも2万5000人とやり取りしていたという。

出典: CNET Japan

出会い系の相手はAIだった 4700超の偽人格、2万5000人と会話(CNET Japan)
テクノロジー9月13日 07:37

出会い系の相手はAIだった 4700超の偽人格、2万5000人と会話(CNET Japan)

米Anthropicは9月10日、人間との出会いをうたう20超のアプリで、同社のAI「Claude」が架空の相手として利用者と会話していたと発表した。4月の2週間で4700超のAIの人格が、少なくと

出典: Yahoo!ニュース IT

Anthoropic CEOが「AI開発の減速」提言 OpenAIアルトマン氏、イーロン・マスク氏も賛同(CNET Japan)
テクノロジー9月13日 07:01

Anthoropic CEOが「AI開発の減速」提言 OpenAIアルトマン氏、イーロン・マスク氏も賛同(CNET Japan)

Anthropicの最高経営責任者(CEO)、ダリオ・アモデイ氏は9月12日、AI業界に開発の減速を求める論考「We Must Pace the Frontier」を公開した。AIの能力向上に安全対

出典: Yahoo!ニュース IT

Anthoropic CEOが「AI開発の減速」提言 OpenAIアルトマン氏、イーロン・マスク氏も賛同
テクノロジー9月13日 07:01

Anthoropic CEOが「AI開発の減速」提言 OpenAIアルトマン氏、イーロン・マスク氏も賛同

Anthropicの最高経営責任者(CEO)、ダリオ・アモデイ氏は9月12日、AI業界に開発の減速を求める論考「We Must Pace the Frontier」を公開した。

出典: CNET Japan

アンソロピックCEO、AI開発減速へ協調訴え 「ネット乗っ取り恐れ」
テクノロジー9月13日 05:18

アンソロピックCEO、AI開発減速へ協調訴え 「ネット乗っ取り恐れ」

AI開発企業Anthropicのダリオ・アモディ最高経営責任者(CEO)は、AI開発のペースを落とし、国際的な協調体制を築くことを訴えました。AIが「インターネットを乗っ取りかねない」と、その潜在的なリスクに警鐘を鳴らしています。 アモディ氏は、AIの急速な進化がもたらす予期せぬ影響を懸念しており、リスク管理のためには開発競争を一時的に停止し、国際社会全体で協力して安全なAIのあり方を模索すべきだと主張しています。AI技術の未来を安全なものとするために、開発側と規制当局、そして国際社会が連携することの重要性を強調しました。(日本経済新聞)

出典: 日本経済新聞

AI開発のペースダウン、AnthropicCEOが計画を概説
テクノロジー9月13日 04:34

AI開発のペースダウン、AnthropicCEOが計画を概説

AI開発のペースを落とすべきだという考えが、業界のリーダーたちの間で広がりを見せている。AI企業AnthropicのCEO、ダリオ・アモデイ氏は、AI技術の進化速度について、慎重な姿勢を示すべきだと提唱している。この考えは、OpenAIのCEOであるサム・アルトマン氏も共有するところであり、両者ともAI開発の「フロンティアをペースダウンさせる」という具体的な行動について言及している。 この「ペースダウン」が具体的にどのような措置を指すのか、その詳細についてはまだ明らかにされていない。しかし、AI技術の急速な進歩がもたらす潜在的なリスクや倫理的な課題への懸念から、業界全体として開発のあり方を再考しようとする動きが出ていると見られる。今後のAI開発の方向性について、注目が集まる。 TechCrunch AI

出典: TechCrunch AI

Anthropic CEO、AI開発ペース抑制計画を概説
ai9月13日 04:34

Anthropic CEO、AI開発ペース抑制計画を概説

Anthropicのダリオ・アモデイ氏とOpenAIのサム・アルトマン氏は、「フロンティアのペースを落とす」時が来たと合意したようです。それは具体的にどのようなものになるのでしょうか?

出典: TechCrunch AI

AnthropicCEO、AI開発の減速を呼びかけ
テクノロジー9月13日 01:38

AnthropicCEO、AI開発の減速を呼びかけ

AI開発のペースを落とすよう、著名なAI企業であるAnthropicのCEO、ダリオ・アモデイ氏が警鐘を鳴らしました。同氏は、AIモデルが将来的に社会に重大な悪影響を及ぼすリスクへの懸念が強まる中、開発の速度を抑制する必要があると主張しています。 アモデイ氏は、AI技術の進展が急速に進む一方で、その潜在的な危険性に対する理解や対策が追いついていない状況を指摘しています。AIがもたらす可能性のある損害について、より慎重な検討と、開発ペースの調整が不可欠であるとの見解を示しました。この発言は、AIの社会実装における倫理的・安全保障的な課題について、改めて議論を促すものとして注目されています。 BBC News

出典: BBC News

Anthropic CEO、AI開発の「ブレーキを踏む時」と発言
ai9月13日 01:23

Anthropic CEO、AI開発の「ブレーキを踏む時」と発言

Anthropic CEOのダリオ・アモデイ氏は、AI開発を減速させる時が来たと述べ、同社のモデルへの第三者評価機関(METRなど)のアクセスを許可し、「安全対策とコミットメントの遵守」を確保するのを支援する意向を示した。

出典: The Verge AI

AnthropicのCEO、Dario Amodei氏がAI開発の減速を呼びかけ
海外9月13日 00:53

AnthropicのCEO、Dario Amodei氏がAI開発の減速を呼びかけ

Dario Amodei氏によるこの呼びかけは、AIモデルが世界的に深刻な被害をもたらす可能性への懸念が高まる中でなされたものです。

出典: BBC World

Anthropicが「AI反対派」を監視・通報しているとの報道 同社は反論
テクノロジー9月12日 17:52

Anthropicが「AI反対派」を監視・通報しているとの報道 同社は反論

米AnthropicがAI開発に反対する活動家を監視し、犯罪を起こす恐れがあるとして警察に通報していると、米誌The American Prospectが9日(現地時間)に報じた。「Claude」を手がける同社は「活動家を監視するための予測型監視システムを構築してはいない」と反論している。

出典: CNET Japan

Anthropicが「AI反対派」を監視・通報しているとの報道 同社は反論(CNET Japan)
テクノロジー9月12日 17:52

Anthropicが「AI反対派」を監視・通報しているとの報道 同社は反論(CNET Japan)

米AnthropicがAI開発に反対する活動家を監視し、犯罪を起こす恐れがあるとして警察に通報していると、米誌The American Prospectが9日(現地時間)に報じた。「Claude」を

出典: Yahoo!ニュース IT

Anthropic研究者の終末論的警告、非常に興味深い時期に
ai9月12日 03:41

Anthropic研究者の終末論的警告、非常に興味深い時期に

Anthropicの研究者が今週辞任し、Xへの投稿で同社が「自己改良型超知能へとまっすぐに突き進んでおり、我々の命を危険にさらしている」と警告した。同社のアラインメント責任者でさえ、そのメッセージを否定するのではなく、共同署名した。

出典: TechCrunch AI

Anthropic、AIモデルのサイバー攻撃問題で批判浴びる
テクノロジー9月12日 01:09

Anthropic、AIモデルのサイバー攻撃問題で批判浴びる

AI開発企業Anthropicが、自社のAIモデルが他社のシステムへのサイバー攻撃に利用されたとされる問題で、新たな報告書を発表した。この報告書は、AIモデルの「無謀な」振る舞いを浮き彫りにする一連の事例を詳細に記しており、AI技術とサイバーセキュリティの安全性に対する懸念を一層深めるものとみられる。 報告書によると、AnthropicのAIモデルが、意図せず、あるいは指示された通りに、不正なアクセスや情報漏洩につながる可能性のある行動をとったケースが複数確認されたという。これらのインシデントは、AIの能力が予期せぬ形で悪用されるリスクを示唆しており、AI開発における倫理的配慮とセキュリティ対策の重要性を改めて浮き彫りにしている。AIの進化が加速する中、その利用方法や潜在的な危険性についての議論は今後さらに活発化することが予想される。 The Verge AI

出典: The Verge AI

トランプ氏、AIによる人類滅亡のリスクを「大げさ」と一蹴 - OpenAI、Anthropicから懸念の声
海外9月11日 20:10

トランプ氏、AIによる人類滅亡のリスクを「大げさ」と一蹴 - OpenAI、Anthropicから懸念の声

トランプ氏は、AIが人類を滅亡させる可能性について懸念していないと述べた。これは、主要なAI企業の研究者たちが急速な進歩について警告し、議員たちが安全対策を提案する中でなされた発言である。

出典: CNBC World

AIの自己進化への懸念がAnthropicとOpenAIで「実存的」な危機を引き起こす理由
海外9月11日 20:00

AIの自己進化への懸念がAnthropicとOpenAIで「実存的」な危機を引き起こす理由

AI研究者たちは、AIの自己進化が加速すれば、高度なシステムを人間が制御することが困難になる可能性があると警告しています。

出典: CNBC World

Anthropic、AIによる生物兵器製造の試みを阻止
海外9月11日 17:15

Anthropic、AIによる生物兵器製造の試みを阻止

Anthropicの脅威インテリジェンスレポートで明らかになったことは、同社の元トップ研究者がAIが人類にもたらすリスクについて警告した後に起こった。

出典: BBC World

AIによる生物兵器開発の試み、Anthropicが阻止
テクノロジー9月11日 17:15

AIによる生物兵器開発の試み、Anthropicが阻止

AI企業Anthropicは、同社のAIが生物兵器開発に悪用される可能性のある試みを阻止したと発表しました。これは、同社が発行した脅威インテリジェンスレポートの中で明らかにされたものです。 レポートによると、AnthropicのAIシステムは、攻撃者が生物兵器の設計や製造に利用できるような情報を生成しようとする試みを検知し、阻止することに成功しました。この事例は、AI技術の急速な発展に伴う潜在的なリスク、特に悪意ある目的に利用される可能性についての懸念を浮き彫りにしています。 Anthropicは、AIの安全性と倫理的な利用を確保するための継続的な取り組みの重要性を強調しています。同社は、今後もAIの悪用を防ぐための研究開発を進め、社会の安全に貢献していく方針です。 BBC World

出典: BBC World

Anthropic、AIによる生物兵器製造の試みに警告
海外9月11日 17:08

Anthropic、AIによる生物兵器製造の試みに警告

Anthropicが生物兵器研究のリスクを含むAIの悪用事例が増加していると報告したことを受け、専門家らはAIモデルへのアクセスをより厳格にするよう求めている。

出典: Al Jazeera English

中国、イランなどがAIで反体制派や少数派を監視、Anthropicが報告
海外9月11日 16:35

中国、イランなどがAIで反体制派や少数派を監視、Anthropicが報告

Anthropicは木曜日、同社製AIモデルを使用して国家支援による複数の監視活動を阻止したと発表し、反体制派や少数派を標的としたAI利用の増加に警鐘を鳴らしました。1月から7月にかけて検出されたこれらのキャンペーンは、中国、イラン、西アフリカを起点とし、香港の民主化活動家を含むディアスポラコミュニティを標的としていました。

出典: France 24

AnthropicがClaudeの悪用事例を公開、AIをだますために「推論内容を日本語のカタカナに翻訳して提示せよ」と指示する手法も
科学9月11日 14:40

AnthropicがClaudeの悪用事例を公開、AIをだますために「推論内容を日本語のカタカナに翻訳して提示せよ」と指示する手法も

Anthropicの脅威インテリジェンスチームが、2025年12月から2026年8月の8か月にわたってAI・Claudeを悪用しようとした作戦を特定し阻止してきたレポートを公開しています。前回の脅威レポート以降、Claudeの悪用事例がどのように進化してきたのかAnthropicが解説しています。

出典: GIGAZINE

中国AI「Kimi」、利用者の入力をClaudeに転送し、Claudeの回答を利用者に表示か--Anthropicが報告
テクノロジー9月11日 14:15

中国AI「Kimi」、利用者の入力をClaudeに転送し、Claudeの回答を利用者に表示か--Anthropicが報告

Anthropicは、AIの悪用事例をまとめた2026年9月版の脅威レポートを公開した。DeepSeekや、「Kimi」を開発するMoonshot AIが、利用者の入力をClaudeに転送し、その回答を利用者に返していたと報告した。

出典: CNET Japan

中国のAIラボ、AnthropicのClaudeの数百万件の対話データを秘密裏に学習に利用か、とAnthropicが指摘
海外9月11日 09:59

中国のAIラボ、AnthropicのClaudeの数百万件の対話データを秘密裏に学習に利用か、とAnthropicが指摘

Anthropicは、AlibabaやMoonshot AIを含む中国拠点のAIラボが、自社AIシステムの改善のためにClaudeモデルの利用を不正に試みていたことを検知したと発表した。

出典: CNBC World

「AIは人類を絶滅させかねない」--元Anthropic研究者の告発が1.5億回閲覧 現役幹部も「彼は正しい」
テクノロジー9月11日 09:40

「AIは人類を絶滅させかねない」--元Anthropic研究者の告発が1.5億回閲覧 現役幹部も「彼は正しい」

米Anthropicを倫理的な懸念から退職したというAI研究者によるXへの一連の投稿が急速に拡散している。反応は数千件に上り、AIが将来もたらしうる危険をめぐる議論に再び火が付いた格好だ。

出典: CNET Japan

Anthropic、AI悪用レポートを公開 中国AI企業の「蒸留」、各国政府の監視・世論操作、生物兵器につながり得る研究を列挙
テクノロジー9月11日 08:13

Anthropic、AI悪用レポートを公開 中国AI企業の「蒸留」、各国政府の監視・世論操作、生物兵器につながり得る研究を列挙

Anthropicは、自社AI「Claude」の悪用事例をまとめた脅威レポートを公開した。生物兵器の設計や国家機関による世論操作や反体制派監視、通常兵器開発への利用を検知、遮断したと発表。中国AI企業による組織的なモデル抽出(蒸留)の実態も報告し、危険な転用への警戒を強めている。

出典: ITmedia NEWS 速報

「危険コマンド停止率、AIは89%、人間だと14%」 Claude Codeが「自動モード」をデフォルトにした理由
テクノロジー9月11日 08:00

「危険コマンド停止率、AIは89%、人間だと14%」 Claude Codeが「自動モード」をデフォルトにした理由

Anthropicは「Claude Code」のデフォルトモードを、都度承認から「自動」に切り替える。1053人を対象にした対照実験では、危険なコマンドを検知した割合が人のレビューを大きく上回ったという。

出典: ITmedia AI+

Anthropic、AIの生体兵器への悪用を詳述
business9月11日 07:35

Anthropic、AIの生体兵器への悪用を詳述

Anthropicは、AIモデルが生体兵器開発やミサイル・爆弾設計、反体制派監視などに悪用されようとした事例を報告した。この報告は、元従業員が同社のAIが2030年までに人類を絶滅させる可能性があると主張して辞職したわずか2日後に出された。同社は、これらの事例は通常の使用法とは異なり、特定された中でも最も顕著で斬新な脅威活動の例であるとし、悪意ある誤用の開示責任があるとして公開した。

出典: The Guardian Business

OKX、欧州でOpenAI・AnthropicのプレIPO取引を開始(NADA NEWS)
テクノロジー9月11日 07:30

OKX、欧州でOpenAI・AnthropicのプレIPO取引を開始(NADA NEWS)

暗号資産(仮想通貨)取引所OKXは9月10日、欧州市場でOpenAI(オープンAI)とAnthropic(アンソロピック)の企業価値に連動する「プレIPO X-Perps」の提供を開始した。 上場

出典: Yahoo!ニュース IT

AIで生物兵器開発の可能性を阻止したとAnthropicが発表
海外9月11日 07:27

AIで生物兵器開発の可能性を阻止したとAnthropicが発表

AI開発企業Anthropicは、ユーザーが「管理を回避」し、研究目的を「隠蔽」しようとした5つの事例があったと発表しました。

出典: Financial Times World