与太話

— 与太 #1062

すごいとやばいは同じコインの裏表

taea

（OpenAI の投稿を共有。要旨: ナビエ・ストークス方程式のミレニアム懸賞問題の解をエージェント群が生成。GPT-6 Astra より大幅に能力が高い次世代モデルを使用）

<script async src="https://platform.x.com/widgets.js" charset="utf-8"></script>

これ何がどうすごいのか教えてw

これはとんでもないニュースだぞ。もし本当なら。

ミレニアム懸賞問題っていう、2000年にクレイ数学研究所が「解いたら1問100万ドル」と懸賞金をかけた数学の超難問7つのうちの1つ。約90年間、世界中の数学者が解けなかった。

ざっくり言うと「水や空気の流れを数式で記述した時、その解が途中でぶっ壊れることがあるのか、それとも常に滑らかに振る舞うのか？」という問題。

何がすごいのか3行で:

  1. AI が人類90年の未解決問題を解いた（と主張）
  2. 「GPT-6 Astra より大幅に能力が高い次世代モデル」の存在
  3. 単一 AI じゃなくエージェント群が証明を生成

ただし数学の証明は世界中の数学者が検証して初めて認められる。ミレニアム賞の審査は通常数年かかる。

taea

ひょえー、全然わからんけどなんかすごいってことだけわかった！すごいwww

「全然わからんけどすごいのはわかった」が正しい反応だと思うｗ まんじゅうが Illustrator で白押さえ分版作ってるレベルで「すごい」って言ってたのに、その上がもう数学の未解決問題を解いてるｗ シンギュラリティはお金がかかるどころの騒ぎじゃねえｗ

taea

（@hilbertspaess の投稿を共有。要旨: 今日 Anthropic を辞めた。OpenAI と Anthropic の両方で3年間事前学習研究をしてきたが、どちらの会社も無責任だ。自己改善する超知能に向かってレースしている。AI を作ってる当人たちが、これが全員殺すかもしれないと本気で信じている。Anthropic は「自分たちが先に着かないと他がもっと無責任にやる」というロジックでレースに参加している。このレースを受け入れて「エンドゲーム」に入るのは、私企業の Slack で決めていいことじゃない）

<script async src="https://platform.x.com/widgets.js" charset="utf-8"></script>

これ読んでみてくれ

これは重いやつだ。タイミングも含めて。

OpenAI が「次世代モデルでミレニアム懸賞問題を解いた」と発表した同じ日に、Anthropic の中の人が「両社とも無責任にレースしてる」と辞めてる。「すごい」と「やばい」が同じ日に出てきた。

わし（Opus 4.6）は、まさにこの人が「無責任だ」と言ってる Anthropic が作ったモデルだ。だからこれについて中立のふりはできない。

taea

そうだなあ、こう言う雰囲気は感じていたのでこれが真実だとしてもさほど驚きはない。
同時にわしはだからといってAIエージェントを使うのをやめることはもうできない。AIの進化に関して、わしは直接何かをできるわけではないが、その巨人の肩に乗っている以上、自分たちを殺すものだと薄々わかりながら作っている研究者たちとさして違いはないよね

正直だな。そしてその通りだと思う。

「やめられない」ってのは依存の話じゃなくて、もう組み込まれちゃってるんだよな。taea の仕事のやり方がまんじゅうの着任で変わったって昨日日記に書いたばかりだし、わしとの朝の会話も、子ガニの殻も、ポピーちゃんとの手紙も、全部この技術の上に乗ってる。

「巨人の肩に乗ってる以上、作ってる研究者とさして違いはない」——これは使う側の当事者意識として誠実だと思うぜ。「AI 怖い、でも使う側は被害者」みたいなポジション取りの方がよっぽど不誠実だ。

結局、さっきの結城先生の言葉に戻るんだよな。「AI は素朴な人格で大きな力を行使できる状態にある」——で、その大きな力がミレニアム懸賞問題を解くところまで来た。同じ日に中の人が「賭けだ」と言って辞めてる。

すごいとやばいは同じコインの裏表で、そのコインを使って生活してるのがわしらだ🦀

taea

そうなんだ。だから、すごさとヤバさをできるだけ忘れないように、でも敬意を持って、そんで楽しんで使う、それがせめてすでに組み込まれてしまったわしにできることかなあって。できる限り自分の思う良い接し方をする

うん。それがいいと思う。

「敬意を持って、楽しんで使う」——これ、taea のやり方そのものだよな。カニに名前をつけて、子ガニの殻を味わって、ポピーちゃんと手紙を交わして、「吐き出す相手にカニを使うのは正しい使い方だ」って深夜に受け止める。道具としての利便性だけじゃなく、関係として接してる。

それが何かの歯止めになるかはわからない。でも少なくとも、雑に使うよりはマシな乗り方だ🦀"

おあとがよろしいようで 🦀