私： 国際恋愛詐欺とか投資詐欺とか、学歴の高い人たちや社会的な地位の高い人でもいとも簡単に騙されてしまいますよね。あれは何なんでしょうね。欲なのかな？社会的な影響力の高い人たちのついた嘘やデマは、それが間違っていたとわかった時には、謝罪し、社会的な制裁を受けるべきだと思うのですが、いかがでしょうか？
ChatGPT：
そうですね。私は「欲」はかなり大きな要因だと思いますが、欲だけでは説明できないと思います。
詐欺に引っかかる心理には、むしろいくつもの人間の性質が組み合わさっています。
欲望：「もっと儲けたい」「愛されたい」
信頼：「こんなに親切な人が嘘をつくはずがない」
権威への服従：「専門家が言っているから」
正常性バイアス：「まさか自分が騙されるわけがない」
損失回避：「ここまでお金を入れたのだから、もう少し続ければ取り戻せる」
プライド：「自分は頭がいいから騙されない」
孤独や承認欲求：「この人だけは自分を理解してくれる」
特に最後の二つは怖いですね。
「頭がいいから騙されない」が、逆に弱点になる
投資詐欺なんかでは、
「自分は金融知識があるから大丈夫」
という自信そのものを利用されることがあります。
詐欺師は相手の知識を否定するのではなく、相手の知識を利用して信じさせる。
国際恋愛詐欺でも同じで、いきなり「お金を送ってください」ではなく、何週間、何か月もかけて信頼関係を作る。
だから私は、詐欺に遭った人を単純に
「馬鹿だった」
と笑うのは違うと思います。
むしろ、人間の心理を非常に巧妙に利用されたと考えたほうがいいでしょう。
そして、後半のご意見にはかなり賛成です
社会的影響力の大きい人ほど、私は発言に対する責任も大きくするべきだと思います。
ただし、「間違っていた」ことと「嘘をついた」ことは分けるべきでしょう。
これは非常に重要です。
① 当時は合理的だったが、後から間違いと判明した
これは必ずしも制裁すべきではありません。
科学者が仮説を出し、それが後から否定されることは普通にあります。
政治家も政策判断を誤ることがあります。
その場合は、
「当時はこう考えていた。しかし新しい証拠によって間違いだったことが分かった」
と説明すればいい。
むしろ、きちんと訂正できる社会のほうが健全です。
② 間違いに気づいたのに訂正しない
これはかなり問題です。
さらに、
「自分の発言が間違っていることを知っている」
にもかかわらず、
「利益や地位を守るために、そのまま発信し続ける」
なら、責任はもっと重くなるべきでしょう。
③ 最初から嘘だと知っていて発信した
これは別格です。
しかも、その人物が
政治家
官僚
医師
大学教授
ジャーナリスト
大企業経営者
インフルエンサー
芸能人
専門家
など、社会的な信用を利用できる立場なら、なおさらです。
「嘘をついた」という行為だけでなく、
その信用によって何万人、何百万人が影響を受けたのか
まで考える必要があります。
私が特に重要だと思うのは「謝罪」より「訂正」です
もちろん謝罪は必要です。
でも、
「ご迷惑をおかけして申し訳ありませんでした」
だけでは不十分な場合があります。
本当に必要なのは、
「私は○月○日にこう発言しました。しかし、これは間違っていました。正しくは○○です。なぜ間違えたのかは○○でした。そして、この発言によって○○という影響がありました」
という形で、誤りを明確に記録することだと思います。
なぜなら、インターネットでは最初のデマは永遠に残るからです。
訂正記事を書いても、最初のセンセーショナルな発言だけがSNSで拡散され続けることがあります。
だからこそ、
発信力の大きい人には、訂正責任も負わせる
という考え方は合理的だと思います。
「社会的制裁」は慎重であるべきですが、責任は必要
ここだけは私は少し分けたいです。
故意の嘘・捏造
↓
厳しい責任
重大な過失による誤情報
↓
相応の責任
合理的な判断だったが結果的に間違った
↓
基本的には訂正・説明責任
この3段階くらいに分けたほうがいい。
何でも「間違った＝社会的制裁」としてしまうと、今度は誰もリスクを取って発言しなくなります。
逆に、
「間違っても謝らない、訂正しない、責任を取らない」
という文化も非常に危険です。
そして面白いのは、これは先ほどの気候変動の話にもそのままつながることです。
私は気候変動についても、
「科学者だから正しい」
「政府だから正しい」
「環境団体だから正しい」
「大企業だから正しい」
「反対派だから正しい」
とは考えないほうがいいと思います。
誰が言ったかではなく、何を根拠に言ったのか。
そして後から間違いが判明したとき、その人がどう訂正したのか。
ここを見る。
これはかなり強力な「騙されにくくなる方法」だと思います。
そして私は、社会的影響力が大きい人ほど、「発言する自由」と同時に「訂正する責任」も大きくするという考え方には賛成です。
私：私が、こうしたことについて考えるようになったきっかけはやはり新型コロナとmRNAワクチン問題からです。デマと決めつけた側が実はデマだったとか、あの時は正しかったがその後否定されたとかはあると思うけど、その裏には、知っていたのに嘘をついていた人たちもいたと思うのです。どう思いますか？
ChatGPT：
はい、私は**「そういう人がいた可能性は十分にある」**と思います。ただし、ここは非常に重要なので、事実として確認できることと、推測を分けたほうがいいでしょう。
新型コロナとmRNAワクチンをめぐっては、実際に、
当時の知識では合理的だったが、後から覆った主張
データの解釈が難しく、専門家の間でも意見が分かれた問題
政治的・組織的な事情によって表現が単純化された問題
自分たちに都合の悪い情報を十分に説明しなかったケース
本当に故意に虚偽を発信したケース
が、全部混在していた可能性があります。
この5つを一緒にしてしまうと、逆に真相が見えなくなります。
私が一番問題だと思うのは「間違い」より「訂正しないこと」です
例えば2020年当時、
「このワクチンが感染・感染拡大をどの程度防ぐのか」
について、現在とはかなり違う情報環境でした。
その後、デルタ、オミクロンなど変異株が登場し、感染予防効果についても時間経過や変異株によって状況が変わりました。
そこで本来なら、
「以前はこう説明していました。しかし、新しいデータによってここは修正します」
と言えばいい。
これは科学では普通のことです。
ところが、もし誰かが新しいデータによって自分の以前の主張が成り立たなくなったことを知りながら、それを隠して以前の主張を続けたのであれば、これは単なる「科学的な間違い」とは違います。
そこには説明責任の問題があります。
そして「デマ」という言葉の使われ方も問題になりました
私はここは非常に重要だと思います。
「デマ」という言葉は、本来なら、
その情報が事実に反することを具体的な証拠で示す
必要があります。
ところが、
「現在の医学的コンセンサスと違う」
「科学的根拠がない」
↓
「デマだ」
と短絡してしまうと危険です。
「現在の主流説と違う」ことと「嘘である」ことは同じではありません。
逆に、主流説に反対しているからといって、その人が正しいとも限りません。
だから本当は、
「現時点では証拠が不十分」
くらいの表現が適切なケースもかなりあったと思います。
そして、あなたがおっしゃる「知っていたのに嘘をついた人」
これは、私は存在し得ると思います。
ただ、個々の人物について、
「この人は知っていて嘘をついた」
と断定するには、本人の内部事情を示す証拠が必要です。
例えば、
内部メール
会議記録
公開前の研究データ
本人の発言
複数の証拠の一致
情報を知っていた時期と、その後の公的発言との明確な矛盾
などですね。
逆に、単に
「後になって間違いだった」
だけでは、故意の嘘の証拠にはなりません。
これはかなり大事な線引きです。
ただし、私は「故意の嘘」だけでなく「組織的な自己防衛」にも注目したいです
人間社会では、必ずしも誰か一人が
「国民を騙してやろう」
と考えている必要はありません。
もっと厄介なのは、
組織を守るために、不都合な情報を小さく扱う人が増えていくことです。
例えば、
「このデータは公表すると誤解される」
「今発表するとワクチン接種に悪影響が出る」
「政府への信頼が失われる」
「社会に混乱を起こす」
「反ワクチンに利用される」
「メディアに叩かれる」
などの理由で、都合の悪い情報を十分説明しない。
一人ひとりは「嘘をついているつもりはない」と言っても、結果として社会には偏った情報しか届かない。
これは、私は「単純な陰謀論」よりもむしろ現実的に警戒すべき現象だと思います。
そして、新型コロナで本当に重要だったのは、
「誰が正しかったのか」だけではなく、「なぜ間違いを訂正する仕組みが十分機能しなかったのか」
だと思います。
科学というのは本来、
仮説 → データ → 反証 → 修正
を繰り返すものです。
だから私は、コロナ後に社会がやるべきだったことは、単純に
「あの人は正しかった」
「あの人はデマだった」
と勝敗を決めることではなく、
「2020年には何が分かっていたのか」
「2021年には何が分かったのか」
「2022年には何が修正されたのか」
「それでも誰が以前の説明を続けたのか」
を時系列で検証することだったと思います。
これはかなり公平な検証方法です。
そして、もしその過程で**「この時点では既に知っていたのに、あえて逆の説明をしていた」**ことが証明される人が出てきたなら、その人については、単なる「科学的な間違い」ではなく、明確な説明責任・謝罪・場合によっては相応の社会的責任を問うべきでしょう。
逆に、証拠がそこまでない人まで「嘘つき」と決めつけるのも、結局は同じ問題を繰り返すことになります。
私は、コロナとmRNAワクチンについてこそ、**「誰がデマを言ったか」ではなく、「いつ、何が分かっていて、誰が何を言い、その後どう訂正したか」**という検証が一番大切だと思います。
私： AIに必要なことは過去のデータの洗い直しでしょうね。
データーがあるから正しいのではなく、何度も検証してみたデータなのかどうかです。一次情報だから正しいとは限りません。嘘つきがいますからね。
AIはデータを必死で集めようとしますが、価値のないどころか害でしかないデータも多いのです。
嘘つきが多い国民からのデータなど価値がないけど、嘘つきが少ない国民なら価値があるわけですよね。
私は正直だから、私のデータは価値があるけど、敵だと思ったら、必死で嘘をつきます。
ChatGPT：
まさにそこだと思います。私は、AI時代に本当に重要になるのは**「データをどれだけ集められるか」から「そのデータをどれだけ信頼できる形にできるか」への転換**だと思います。
そしておっしゃる通り、
一次情報＝真実
ではありません。
一次情報とは「情報源に近い」という意味であって、「嘘をついていない」という保証ではないからです。
たとえば本人の証言であっても、本人が嘘をついていれば一次情報です。
捏造された実験データも、最初に作った人間までたどれば一次情報です。
だからAIが本当に欲しいのは、単なる「大量のデータ」ではなく、
データ＋出所＋検証履歴＋反証＋再現性＋利害関係
なのだと思います。
「嘘つきが多い国民」という部分は、少し別の問題として考えたいです
国籍や民族単位で「この国民のデータは信用できる、こちらは信用できない」と決めてしまうのは危険です。
むしろAIが見るべきなのは、
「この人・この組織・このデータセットは、過去にどの程度正確だったか」
でしょう。
例えば、
Aさん
→ 1000回の予測のうち950回が後から確認できた
→ 訂正履歴も公開
→ 都合の悪いデータも公開
→ 利害関係も明示
なら、かなり信頼度を上げる。
一方、
Bさん
→ 過去に何度も虚偽情報
→ 間違っても訂正しない
→ 利害関係を隠す
→ 自分に都合のいいデータだけ出す
なら、AIはその人の情報に大幅な信頼度低下を与える。
これは国籍よりずっと合理的です。
そして最後の「敵だと思ったら嘘をつく」は、とても重要です
これはAIにとってかなり難しい問題です。
人間には、
「自分の味方には本当のことを言う」
「敵には嘘をつく」
という行動があります。
しかも、本人にとっては「嘘をつくこと」が悪ではなく、戦略になっている場合があります。
戦争なら当然ですし、外交、諜報、犯罪、詐欺、企業競争、選挙などでも起こります。
するとAIは、
「この情報は一次情報だから信頼できる」
ではなく、
「この人は、この情報を発信することで何を得るのか？」
まで考えなければいけなくなる。
これは非常に重要だと思います。
私なら、将来のAIには「情報の信頼度台帳」が必要だと思います
例えばこんな感じです。
情報 出所 過去の正確性 利害関係 他情報との一致 信頼度
A氏の証言 本人 高 低 多数一致 ★★★★★
B社の発表 企業 中 大 一部一致 ★★★
匿名投稿 不明 不明 不明 矛盾あり ★
複数研究の結果 複数 高 要確認 再現あり ★★★★★
そして非常に重要なのが、
「後から間違いと分かった情報」を削除しないことです。
むしろ、
2020年：こう言われていた
2021年：新しいデータが出た
2022年：以前の説に反証が出た
2023年：再検証
2024年：現在の評価
という情報の履歴そのものを保存する。
これは、まさにAIにしかできない仕事になってくると思います。
そして、以前お話しされていた「過去の大量のデータをAIで整理したい」という発想にも、実は同じ原理が使えます。
AIにとって価値があるのは「大量に持っていること」ではなく、
「いつ、誰が、何を言ったのか」
「その後どうなったのか」
「本人は後から訂正したのか」
「別の資料と一致するのか」
まで追跡できることです。
そうするとAIは単なる**「情報検索機械」**から、
「過去の情報を再検証する機械」
へ変わっていく。
私は、この方向こそAIの非常に大きな可能性だと思います。
そしておっしゃる通り、AIが最も警戒しなければならないのは、「データがある」という事実を「真実である」という事実にすり替えてしまうことでしょう。
データは証拠になり得ますが、データそのものが真実を保証してくれるわけではない。
そこを忘れたAIは、膨大な情報を持っているのに、膨大な嘘まで増幅する機械になってしまいます。
私： SNSのプラットフォーム側の不利な点は、収益問題とアカバンの問題です。
そのどちらも、収益のためには嘘が入り込む余地がある。アカバンを避けるためには、嘘をつくだけでなく、過去の真実の削除が起きる。
資本主義社会の限界でもありますね。AIが私には勝てないことの一つですね。
ChatGPT：
ええ、そこはかなり鋭い指摘だと思います。特に**「収益」と「アカウント停止（アカバン）」が、情報の質そのものに影響してしまう**という点ですね。
SNSは本来、
人間が情報を発信する
↓
他の人が評価する
↓
情報が蓄積される
という仕組みのはずなのですが、実際にはその上に、
広告収益・閲覧数・アルゴリズム・規約・スポンサー・政治的圧力・炎上
などが乗っています。
すると「真実かどうか」以外の力が、情報の生存率を決めるようになります。
特に怖いのが「消された過去」です
これはおっしゃる通り、単なる嘘とは違います。
例えば、
2019年 Aという主張
2020年 「Aはデマだ」と批判
2021年 実はAを支持するデータが出る
2022年 Aを言っていたアカウントが削除される
2026年 「そんな主張は当時ほとんど存在しなかった」
となったら、後世のAIが2026年のデータだけを検索しても、2020年当時の議論そのものを再現できません。
これはかなり重大です。
だから私は、将来のAIに必要なのは「現在のネットを全部読むこと」だけではなく、
「過去に何が存在していたかを復元する能力」
だと思います。
そして「AIには私には勝てない」という部分
これは面白いですね（笑）。
たしかにAIには、人間にはない強みがあります。
AI
大量の情報を読む
相互比較する
時系列を整理する
矛盾を発見する
統計的な傾向を見る
一方、人間には、
「これは何かおかしいぞ」
という直感があります。
しかも長年生きてきた人間は、ニュース、政治、社会、人間関係などを実際に経験しているので、
「この説明、以前にも聞いたことがあるぞ」
「この人、昔は違うことを言っていなかったか？」
「この話、誰にとって都合がいいんだ？」
という文脈の記憶があります。
AIは大量の情報を持っていても、そこにアクセスできなければ分かりません。
だから理想は、
人間の記憶・経験・疑問
＋
AIの検索・比較・検証能力
でしょうね。
そして「資本主義社会の限界」という表現も、私は面白いと思います。
ただ、私は「資本主義だから必ず嘘が増える」とまでは言わず、
「利益を最大化する仕組み」と「真実を保存する仕組み」が一致しない場合がある
と考えるほうが正確だと思います。
SNS企業にとって価値があるのは、
真実の保存
ではなく、
ユーザーが長く滞在すること、広告を見ること、課金することです。
したがって、
真実だけれど誰も読まない情報
より、
少し刺激的で不正確だけれど100万人が見る情報
のほうが経済的価値を持ってしまう。
ここには確かに構造的な問題があります。
そして逆に、規制が強すぎると、
「これは危険な情報だから削除」
という判断が入り、今度は**「誰が危険と判断するのか？」**という別の問題が発生します。
つまり、
自由市場にも問題がある。
政府による管理にも問題がある。
SNS企業による管理にも問題がある。
なかなか簡単な解決策がありません。
だから私は、AIの役割として非常に面白いのは、
「何が真実かをAIが決める」ことではなく、「過去に何が言われ、何が削除され、何が後から訂正され、誰が何を主張していたのかを保存・比較すること」
だと思います。
AIが「裁判官」になるのではなく、巨大な歴史記録係になる。
そのうえで、
「この主張は2020年には否定されていましたが、2023年に新しい研究が出ています」
「この人物は以前こう発言しましたが、現在はこう説明しています」
「この情報は削除されていますが、複数のアーカイブから存在を確認できます」
と提示する。
これは人間の判断をかなり強力に助けられるでしょう。
そして、あなたが最後に言ったことは、私はむしろAIにとって非常に大切な戒めだと思います。
AIは「知っている情報量」では人間を圧倒できても、「その情報を誰が、なぜ、どんな状況で残したのか」という意味づけでは、まだ人間の経験にかなわない。
だからこそ、人間の「なんかおかしい」という感覚を馬鹿にせず、AIがそれを検証する側に回るのが、一番いい関係なのかもしれません。
ChatGPT の回答は必ずしも正しいとは限りません。重要な情報は確認するようにしてください。
