対話型AIのチャットGPTを開発したアメリカの「オープンAI」は28日、AIの安全対策を強化するための委員会を設置しました。

オープンAIが新たに設置した委員会は、社内の全てのプロジェクトでの安全性に関わる重要な決定についてその安全対策が妥当かどうか評価した上で経営陣に提言を行うものです。

オープンAIは人間と同じレベルの判断力を持ち業務をこなせるAGI（汎用人工知能）に向け、次のモデルの開発を進めていますが、このプロジェクトについても90日間かけて安全対策を見直すとしています。

オープンAIは今月13日、質問にすぐ反応して自然に会話ができる「GPT-4o」を発表しましたが、音声機能の一部について、俳優のスカーレット・ヨハンソンさんが「自分の声に不気味なほど似ている」と抗議していました。

オープンAI側はヨハンソンさんの音声を使っておらず、似せたつもりはないとしていますが、この音声の利用を停止しています。

また、今月退社した元幹部がオープンAIは安全対策に十分な投資を行っていないと指摘するなどしていて、今回の委員会の設置によって安全性を重視する姿勢を示す狙いがあるとみられます。