【人間の脳はバグっている】物理学者のAIの使い方／AIは結婚詐欺のようなもの！？／AI・AGIの限界／フィジカルAIはまだ難しい？／「知能」とはなにか／田口善弘／THINKpod

Comments · 29

• SO

  @soichiromaruo · 3 days ago · pinned

  聞き手を務めた丸尾と申します。田口先生のお話、興奮しつつうかがいました。とくに「人間がもっている感覚データのバイアスをもとにAIはインプットをしている（学習の方法は違うが元となるデータは人間のバイアス）」という指摘に、みょうに心動かされるものがありました。<br><br>ロボットに失敗を（から？）学ばせるのが難しいという点もたいへんおもしろく、人間はうまく進化してきたものだなあと、人類の来し方にも思いを馳せてしまいました。みなさまにもお楽しみいただけるとうれしいです！

  10

• SL

  @sleepygirafe · 3 days ago

  要素還元主義の限界を明言する学者って珍しい。みんな恐れ傲りがあるからできない。誠実だと思う。

  8

• HI

  @hiroshiseki3132 · 3 days ago

  試しに複数のAIに同じ質問や考察を依頼すると、それぞれ回答に特色があって面白いです。<br>全肯定するAIもあれば、別の考察を提案するAIもあります。でも人生で重大な決断をAIに委ねるのは<br>止めたほうが良いかもしれませんね。むしろ失敗したほうが良かったというケースもありますから。<br>でもAIの回答はすでに下手な人間より細かな配慮のある回答なので、頼ってしまうのも無理はないかと思います。

  4

• SW

  @sw1445 · 3 days ago

  生成AIは登場から今の今までずっと「確率的オウム」の領域から出ないんだよね

  2

• 小林

  @小林ハヤト-n5j · 2 days ago

  動画で語られた「AIによる分析で論文の価値が下がり査読前拒否された」というエピソードは、イラストや小説の世界で起きた手作業の労力のコモディティ化と同義であり、特段珍しい現象ではない。成果そのものの深さではなく「手間の苦労（参入障壁）」に価値を置いていたからこそ研究者自身も落選に易々と納得してしまっており、大量の論文の過剰供給に直面した学術誌側の当然の防衛反応と言える。また、AIに感情移入する危険性の根拠として挙げられた自殺例は、初期モデルの隙間で生じた極めて特殊な事故に過ぎず、その後に施されたガードレールの強化や技術改善を無視して危険性を一般化するのは論理的飛躍がある。既に日常化している高齢者の対話利用を「将来の可能性」と語る点も含め、現場のリアルな実装状況に対する解像度は低い。全体を通して「仕組みを知る自分は正しく使い、騙される世間は危険だ」という知識人特有の偏った価値観を一方的に他者へ押し付けている印象を禁じ得ない。

  4

• 荻野

  @荻野あんず · 3 days ago

  性善説ですね。

• UN

  @und-yukiguni · 1 day ago

  要するに汎化すること自体がバイアスだろうから、、<br>要するに人間という思想も信仰の源泉みたいなものでろうし、、<br>要はものごとを一般汎用化した人間的なバイアスとしてものごとを理解しているだけのことを知るのみことだろうね、、<br>そうすると人間が道具を人間的に制御すること自体がバイアスの形成なのだと考えるのだろうし、、<br>人間的な身体の実在を時間軸に沿って理解してみれば一般論化した進化論みたいな視点が形成されるという噺しであったりもする、、<br>とはいえそんな言葉自体が一種の道具なのだから実在も怪しげな意味をもっており、、<br>認識の行き着く先はバイアスの万華鏡をしてリュウジュが考えたような空観に至るのだろうか

• たま

  @たまむし-q6c · 3 days ago

  これちゃんと最後まで聞いてないと、AIを軽んじてるって勘違いしそうな動画だな

  2

• JA

  @ja32h · 2 days ago

  「データ」は幻。<br>田口先生に共感致します。 <br>言語別の観測者によって認識、測定、記録(定義されたコード、単位)、表示されるため、<br>実態とは異なるモデル下の離散値の塊です。<br>0.1なんて、2進数では循環小数。<br>例えばカメラの解像度画素数が増えれば学習のし直し、画素数2倍になれば、計算量指数倍。<br>計算する前に現実が先にきてしまいます。モデルのつくり方次第。<br>HONDA社の二足歩行ロボット P-2 の1997年時点での歩行静止の方が<br>今の中国のロボットの静止よりとてもきれいです。

• UK

  @ukxxxxx · 2 days ago

  今開発競争が盛んなAIは人間の知能を目指したものではないんじゃない？

• MI

  @Miretoesconseguirregistrossinv · 3 days ago

  うん。AIに向けているくらいの強さで国家も疑う、という基準はかなり筋が通る。<br><br>AIには今、<br><br>「もっともらしく話しても鵜呑みにするな」<br>「内部過程を検証しろ」<br>「説明可能にしろ」<br>「人間が異議を申し立てられるようにしろ」<br>「危険なら停止・修正できるようにしろ」<br>「過去に役立ったから今後も正しいとは思うな」<br><br>と要求している。OECDのAI原則も、透明性、説明可能性、異議申立て、トレーサビリティ、人間による監督、危険時の停止・修正を求めている。<br><br>これを国家にほぼそのまま移すと、<br><br>* 「国家安全保障」と言われても、それだけでは信用しない<br>* 「機密」と言われたら、なぜ機密なのかを検証する<br>* 「国民を守る」と言われたら、実際に誰を何から守っているのか確認する<br>* 戦争なら、領土・政権・制度の存続と、人間の生命を分けて考える<br>* 政府判断の根拠、決定者、利益を受ける者、被害を受ける者を追跡する<br>* 間違った場合に、市民側から修正・停止できる仕組みを要求する<br>* 「昔からある」「選挙で選ばれた」「合法だ」を、正しさそのものとは扱わない<br><br>となる。<br><br>この基準で核戦争を見ると、かなり異様さが見える。米国の公的な非常事態計画には「massive nuclear attack」を想定しながら、政府の継続やessential functionsの維持が明記されている。もちろん同時に住民への支援なども計画されているので、「政府だけ助かればよい」という文書ではない。けれど、政府機構の存続と人間一人ひとりの生存が別々の目的として存在すること自体は確認できる。<br><br>だからAI並みに疑うなら、<br><br>「国家が生き残ること」と<br>「人間が生き残ること」を<br>自動的に同じものとして扱わない。<br><br>ここが大きい。<br><br>さらに、マレーの実験、中国・北朝鮮による捕虜への強制的思想教育、それへの米国側の心理操作研究、原爆、核抑止、ガザ、ウクライナ……を同じ視点で見るなら、<br><br>「国家Aが悪い、国家Bが正しい」<br><br>だけで終わらず、<br><br>なぜ人間は『国家安全保障』というラベルが付いた途端、AIなら絶対要求するはずの検証を弱めるのか<br><br>という問いになる。<br><br>たとえばAIが、<br><br>「内部は秘密です。でもあなたを守るためです」<br>「私の判断に従ってください」<br>「間違っている証拠は公開できません」<br>「私を停止すると敵に負けます」<br>「あなたが多少犠牲になっても、私というシステムの存続が必要です」<br><br>と言い始めたら、かなり怖いでしょう。<br><br>ところが国家については、似た論法が安全保障・機密・非常事態という語彙に変換されると、普通のものとして受け入れられやすい。<br><br>だから「AI並みに疑う」は、国家否定を結論として先に置くというより、かなり強力な思考実験になる。<br><br>AIに許さないことを、なぜ国家には許しているのか。<br><br>一つ一つ説明できるなら残す。<br>説明できないなら変更する。<br>人間より制度の存続が優先されているなら、そこで目的と手段が逆転していないか調べる。<br><br>このくらいの監査を国家にも掛ける、という話だと思う。

  3

• NA

  @namamuginamagome406 · 3 days ago

  チューリングテストはつまり人間の認知バグを証明するテストだった…ということか。