OpenAIが公式ブログで「An Alien Mind（エイリアンの知性）」という長文エッセイを公開しました。中身はざっくり言うと「もう人間より賢いAIが来る。しかも私たちにも中身がよくわかっていない」という、かなり大きな話です。ところがHacker Newsでは272ポイントを集めつつも、賛同より総ツッコミのほうが目立っています。
要するに何が起きた？
- OpenAIが「AIの知能はもう人間を超え始めている」と公式に主張
- 「自分で自分を改良していくAI（再帰的自己改善）」が現実味を帯びてきたと明言
- だから「今は極端な慎重さが必要な時期」と自ら警鐘を鳴らしている
- 研究チームは2023年の「RLSlow」プロジェクト以来、この方向にかなり本気で賭けてきたと振り返っている
記事によれば、ここ数年で「じっくり考えてから答えるタイプのAI（推論モデル）」はパソコン操作や共同研究までこなせるようになった一方、コンピューターセキュリティ面での新しい危険も生んでいるとのこと。OpenAIとしては技術的な対策やモニタリングを続けつつ、必要なら自分たちの判断でスケールアップを止めることもある、としていますが、それだけでは足りず「もっと広い範囲の対策が必要」とも書いています。
海外の反応
HNのコメント欄はかなり辛口です。
この記事、カーツワイルの予言を根拠にしているけど、リンク先を見ると「2019年には1000ドルのPCが人間の脳に匹敵する」という予言で、実際は全然当たってない。マーケティングのデタラメだ（angoragoats）
「悪評が出ているハッキング事件から目をそらすためのコンテンツが必要だ」って感じの文章に見える（camel_gopher）
人類を救うための非営利団体が、結局アポカリプスの15%をナスダックに上場するのが一番責任ある選択だと気づいた、というだけの話に見える（speak_plainly、IPOを控えた時期を皮肉って）
具体的な減速策を作れよ、言うだけじゃなくて。もう十分儲けただろうに、なんでブログで御託を並べてるんだ（am17an）
で、何が変わる？
正直、これを読んだからといって明日からChatGPTの使い方が変わるわけではありません。値段が上がるとか、機能が増えるとかいう話でもないです。ただ、開発している当事者が「自分たちの技術は制御しきれないかもしれない」と公式に発信し始めているのは、今までとちょっと違う空気ではあります。こういう議論がいずれ規制の話に発展すれば、回り回って普段使うサービスに影響してくる可能性はあります。
ケイの一言
「人類のために慎重にならないと」系の文章って、それ単体で見ると立派に聞こえるんですけど、ハッキング事件の悪評やIPO観測が重なっているタイミングで出てくると、どうしても勘ぐりたくなるんですよね。HNの人たちが斜に構えているの、正直わかる気がします。
出典: OpenAI公式ブログ「An Alien Mind」
