AIの進化に慎重になれ!?

AIの進化に慎重になれ!?


先日、01 Expert Pitchにて「Generative AIとは?」をテーマにウェビナーを開催しました。「Generative AIとは何か」、「どのようなテクノロジーなのか」、「今後どんな変化が起こるのか」など、非常に内容が濃い有益なウェビナーでしたが、その技術の活用についてはさまざまな意見があります。

この度、Future of Life Instituteは、「Pause Giant AI Experiments: An Open Letter」というオープンレターを発表しました。

Future of Life Institute WEBサイトより

「私たちは、すべてのAI研究所に対し、GPT-4より強力なAIシステムの訓練を少なくとも6ヶ月間、直ちに一時停止するよう要請する。」

とするもので、2023年3月28日17:00 PST現在、1332名のエキスパートが署名をしており、その中にはTeslaのイーロンマスク氏やAppleの共同創業者スティーブ・ウォズニアック氏などが入っています。

「とある技術がどのように開発され、どのように使用されるかは、地球上のすべての生命に多大な影響を及ぼす。これらの技術は、適切に管理されれば、現在生きている人々にとっても、まだ生まれていないすべての人々にとっても、生活を大幅に向上させる形で世界を変えることができる一方で、不適切に管理されれば、その逆を行くことになる。人類を屈服させ、絶滅の危機に追い込むような破滅的な出来事が起こるかもしれない。Future of Life Instituteの使命は、変革的なテクノロジーを極端で大規模なリスクから遠ざけ、生命に利益をもたらす方向へと導くことである。」

Future of Life Institute WEBサイトからTomorrow Accessが妙訳

過去にも「AIが人間より賢くなってしまう」「AIがAIを学習させると歯止めが効かない」という論議があり、この問題は過去から議論されてきましたが、最近のGPT-4の出現で、本当に危ないというレベルに来ているのかもしれません。皆さんはどう考えますか?