OpenAIは、「超知能」AIシステムに対処するための新しいチームを設立します
人工知能（AI）チャットボットChatGPTの背後にある企業は、超知能AIシステムのリスクを抑制し管理するためのチームを結成する予定だと述べています。
OpenAIは、7月5日にブログで発表したアナウンスの中で、新しいチームが「私たちよりもずっと賢いAIシステムを導き、制御する」ために作成されると述べています。
この非営利団体は、超知能は「人類がこれまでに発明した中で最も影響力のある技術」と信じており、多くの問題の解決に役立つと述べていますが、リスクも存在します。
「超知能の膨大な力は非常に危険であり、人類の無力化や人類の絶滅につながる可能性もある。」
同社は、超知能が今の10年にも実現する可能性を信じていると述べています。
既に確保されている計算能力の20%をこの取り組みに充てるとし、人間レベルの自動アライメント研究者を作成することを目指しています。この自動研究者は、理論上はチームが超知能の安全性を管理し、人間の意図と調整するのに役立つでしょう。
同社は、主任科学者のIlya Sutskeverと研究所のアライメント部門の責任者であるJan Leikeを共同リーダーとして指名しました。機械学習の研究者やエンジニアをチームに参加するようオープンな呼びかけも行っています。
関連記事：OpenAIがChatGPTのBing機能を一時停止、ユーザーがペイウォールに遭遇
OpenAIのこの発表は、世界中の政府がAIシステムの開発、展開、利用を管理するための措置を検討している中で行われています。
欧州連合の規制当局は、AI規制に関して最も進展を遂げています。6月14日、欧州議会はEU AI法案を可決し、ChatGPTなどのツールがすべてのAI生成コンテンツを開示することを義務付けるなど、他の措置が盛り込まれました。
この法案は実施前にさらなる議論を必要としますが、イノベーションへの潜在的な影響についてAI開発者からの抗議を引き起こしました。
OpenAIのCEOであるSam Altmanは、過剰な規制の潜在的な悪影響についてEU規制当局と話し合うためにブリュッセルに行きました。
アメリカ合衆国の立法者も、国のAIアプローチを決定する機関を設立するための国家AI委員会法案を提出しています。アメリカの規制当局も技術の規制を望む意向を公にしています。
6月30日、マイケル・ベネット上院議員は、OpenAIを含む主要なテック企業に対して、AI生成コンテンツのラベリングを求める手紙を起草しました。
雑誌: BitCulture：Solana上のファインアート、AI音楽、ポッドキャスト+書籍レビュー
