技術の青年期 - AIリスクと戦闘計画

Anthropic社CEOのDario Amodeiによるエッセイ「The Adolescence of Technology（技術の青年期）」。数百万の天才に匹敵する「強力なAI」が今後1〜2年で出現する可能性を指摘し、4つの主要リスク（自律的な暴走、生物兵器への悪用、独裁国家による支配、労働市場崩壊と富の集中）を詳述。極端な悲観論を退けつつ、民主主義を守るための「戦闘計画」として、独裁国家へのチップ輸出規制、AIに倫理観を育む「憲法的AI」、富の再分配といった具体策を提唱。人類が成熟するための不可避な「通過儀礼」と結論。

ソース: darioamodei.com (The Adolescence of Technology)