ChatGPT、Bard、その他の大きな AI モデルの出現により、イーロン マスクなどのそれらに関与する人々から AI がもたらすリスクについての警告を聞いてきました。 今回、著名な業界リーダーのグループが、こうした懸念を実際に裏付ける一文の声明を発表した。
申請書が掲載されたのは、 人工知能セキュリティセンターのウェブサイトで (Center for AI Safety) は、「人工知能に関連するリスクを社会規模で軽減する」ことを使命とする組織です。 署名者の中には、OpenAI のエグゼクティブ ディレクターであるサム アルトマンやその責任者など、人工知能業界の著名な代表者も含まれています。 でログイン ディープマインドのデミス・ハサビス。 現代AIのゴッドファーザーと多くの人が考えているチューリング賞受賞者のジェフリー・ヒントン氏とジョシュア・ベンジオ氏も声明に署名した。
このような声明はここ数カ月で２度目となる。 1000月、マスク氏、スティーブ・ウォズニアック氏ら人以上は、業界と一般大衆がテクノロジーを効果的に習得できるよう、AI開発をか月間一時停止するよう求めた。 書簡には「ここ数カ月間、AI研究所は、誰も（その作成者さえも）理解、予測、確実に制御できない、ますます強力なデジタルマインドを開発、実装するための制御不能な競争に巻き込まれている」と書かれている。
AI は（おそらく）一部の人々が懸念しているほど自己認識的ではありませんが、ディープフェイクや自動化された偽情報などを通じて、すでに悪用や危害のリスクをもたらしています。 AI はコンテンツ、芸術、文学の制作方法も変える可能性があり、多くの仕事に影響を与える可能性があります。
ジョー・バイデン米国大統領は最近、AIが危険かどうかは「まだ分からない」と述べ、さらに次のように付け加えた。「私の考えでは、テクノロジー企業には自社の製品を世に出す前に安全であることを確認する義務がある…AIは可能性がある」病気や気候変動などのいくつかの非常に困難な問題に対処するのに役立ちますが、私たちの社会、経済、国家安全保障に対する潜在的なリスクも考慮する必要があります。」 ホワイトハウスでの最近の会合で、アルトマン氏は潜在的なリスクを理由にAIの規制を求めた。
幅広い意見を踏まえ、新しい準備書面は、人工知能に関連するリスクが何であるかについて当事者の意見が異なる場合でも、人工知能に関連するリスクについての共通の懸念を示すことを目的としている。
声明の前文には「人工知能の専門家、ジャーナリスト、政治家、そして一般の人々は、人工知能に関連する幅広い重要かつ差し迫ったリスクについて議論することが増えている」と書かれている。 「しかし、人工知能に関連するいくつかのより深刻なリスクについて懸念を表明するのは難しい場合があります。 以下の簡潔な記述は、この障害を克服し、議論を広げることを目的としています。 また、人工知能に関連する最も深刻なリスクの一部を真剣に受け止めている、ますます多くの専門家や著名人に情報を提供することも目的としています。」
また読む：