マイクロソフトのCSOは、AIが人間の繁栄を助けると述べ、それでも終末論的な手紙に賛同します

マイクロソフトの最高科学責任者であるエリック・ホーヴィッツ氏は、人工知能(AI)が未来の人類の繁栄を可能にすると信じていますが、彼は明らかにその賭けをしているようです。

ホーヴィッツ氏は5月30日に公式のマイクロソフトブログで、「AIと人類の繁栄の未来に関する考察」と題した投稿を公開しました。この記事では、人工知能の未来について議論し、OpenAIのGPT-4の公開前にアクセスを許可されたAI専門家によって書かれた一連のエッセイを発表しました。

ブログ投稿によると、ホーヴィッツ氏は2022年にそのようなアクセスを許可された際、OpenAIのGPT-4の能力に驚かされたとのことです。

「以前のAIシステムで見られたものを超える予期しない知能の光が見られました。数千万人がChatGPTとして使用するモデルであるGPT-3.5と比較して、能力に大幅な飛躍が見られました。」

具体的には、ホーヴィッツ氏はGPT-4の「意図を解釈し、多数のプロンプトに洗練された回答を提供する能力」を称賛し、「物理学で遭遇した新興現象のイメージを呼び起こす『相転移』のように感じた」と述べています。

ホーヴィッツ氏は、GPT-4をテストするうちに、「モデルとその後継者が…変革的な可能性を秘めていることがますます明らかになってきた」と書いています。

マイクロソフトとOpenAIは、多数の専門家にGPT-4の早期アクセスを許可し、技術が多様な産業に与える機会と課題を特定するために彼らからエッセイを依頼しました。

関連記事:EUと米国はAI行動規範を推進すべき:EUテックチーフ

しかし、ホーヴィッツ氏は、彼が発表した当日、Center for AI Safetyが公開した文書に署名者として名前があがりました。

この文書には、前書きと1文の声明のみが含まれ、AI専門家の有名人たちの名前が並びました(MetaのYann LeCunやGoogle Brainの共同創設者であるAndrew Ngなど、数名の注目すべき留保者を除く)。

声明には、「AIによる絶滅のリスクを軽減することは、パンデミックや核戦争などの社会規模のリスクと同じくらいのグローバルな優先事項であるべきです。」と書かれています。

この文書に対する反応はソーシャルメディア上でやや分かれており、多数の専門家が署名した理由を詳しく説明したり、現時点では可能ではない能力を持つ将来のAIシステムなどの未定義のリスクについて心配する人もいます。

気候変動、反民主的勢力の台頭、そして拡大する経済格差など、現実の破壊を無視して、知識人や科学者がこの「AIの終末論的シナリオ」に乗り出すのを見るのは驚くべきことです。

— Ahmed El Hady (@zamakany) May 31, 2023

ホーヴィッツ氏は、最近のブログ投稿でも安全なAIの開発に関する「課題」に触れ、技術の変革的な性質に対する「不安」を認めています。しかし、潜在的な絶滅については言及されていません。

AI以外にも、マイクロソフトは他の新興技術にも取り組んでいます。同社は最近、サンタンデール、ビザなど数多くの応募者とともにブラジル中央銀行の中央銀行デジタル通貨のパイロットプロジェクトに参加することが承認されました。