Google DeepMindは、人工汎用知能（AGI）を巡る技術的・社会的な重要課題について、分野横断的な研究、協働、議論を促す「DeepMind Institute（DMI）」を立ち上げたと発表しました。DMIは、Google DeepMindとGoogle、さらに世界の研究コミュニティーに属する研究者や思想家が、AGIのある世界に関する創造的で深い知見に基づく考えを発表するためのプラットフォームと位置付けられています。
同社はAGIを、人間の脳が持つ認知能力をすべて示すシステムと説明しています。現在のAIには既に高い能力がある一方、基本的な作業で失敗する場合があり、完全なAGIに必要な一貫性や創造性もなお不足していると指摘しました。それでも、技術革新の速い進展を踏まえ、こうした隔たりは近く埋まると見込んでいます。
Google DeepMindは、AGIが科学的な発見を加速させる究極の道具になり得るとの見方を示しました。病気の理解や治療、クリーンエネルギーの開発、経済的な繁栄に向けた新たな道筋を開き、人類だけでは達成できない水準を超える科学的発見と進歩の時代につながる可能性があるとしています。
一方で同社は、このように大きな変化をもたらす技術には課題とリスクも伴うと強調しました。能力が高まるAIは、サイバーセキュリティーや生物学上のリスクに影響を及ぼし得るほか、将来、自己改善するシステムで制御を失う可能性もあるとしています。そのため、AGIを安全に構築し、社会にもたらす利益がリスクを大きく上回るようにすることが重要な局面だと説明しました。
DMIでは、AGIによって人間であることの意味がどう変わるのか、何を価値あるものと考えるのかを含め、技術と社会の両面から問いを扱います。AGIシステムと、それらが形成するエージェントのコミュニティーを安全に構築・統治する方法、社会がAGIへ適応するために必要な、あるいは再構想すべき制度・政策も論点に掲げました。
参加者の見解は必ずしも一致せず、新たなデータや情報に応じて考えを変えることも想定しています。同社は、課題や機会への社会的な対応について合意を形成するには、幅広い知的な議論が必要だとしてDMIを設けたと述べました。責任ある開発・展開の答えを技術者だけが担うべきではなく、芸術・人文学、政府を含む社会全体が関与すべきだとの立場です。DMIのディレクターはShane Legg氏、James Manyika氏、Demis Hassabis氏で、編集長はLegg氏が務めます。