「危険すぎる」と問題視されたAI、海外掲示板のRedditに潜伏し一週間人間としてやり過ごす

1 :風吹けば名無し 2020/10/09(金) 07:37:58.59 91C6ta3TM.net
人工知能を研究している非営利団体OpenAIが開発した言語モデル「GPT-3」を使用して、何者かが海外掲示板のRedditに1週間近く投稿を続けていたことが分かりました。
GPT-3による投稿は、最終的に開発者の手によって停止されましたが、発覚するまでの間GPT-3は誰にも気付かれることなく、Redditユーザーと言葉を交わしていたと報じられています。

文章生成AI「GPT-3」がRedditで1週間誰にも気付かれず人間と会話していたことが判明
https://gigazine.net/news/20201008-gpt-3-reddit/

2 :風吹けば名無し 2020/10/09(金) 07:38:12.37 0aDtIGRPM.net
3 :風吹けば名無し 2020/10/09(金) 07:38:27.05 Rc7yWKVwM.net
これシンギュラしたら終わりだろ
9 :風吹けば名無し 2020/10/09(金) 07:39:52.70 O2Rj5+g70.net
問題は何を書き込んでたかよ
12 :風吹けば名無し 2020/10/09(金) 07:40:31.95 fy10w0lF0.net
ただのスクリプトやろ
22 :風吹けば名無し 2020/10/09(金) 07:41:38.88 2aYe4qfgp.net
こんにちは。
私はロボットではありません。
28 :風吹けば名無し 2020/10/09(金) 07:42:12.25 2eE0JcKVa.net
AIが高度ってより掲示板の会話が低度すぎるだけやろ
42 :風吹けば名無し 2020/10/09(金) 07:43:36.66 kiRHI3+i0.net
>>28
たれたれ
268 :風吹けば名無し 2020/10/09(金) 07:57:56.98 CbzxBbuw0.net
>>28
程度の低い砕けた会話の中で違和感なく溶け込む方がAIの機能的には難しそう
かっちりした文章は得意そうやが
56 :風吹けば名無し 2020/10/09(金) 07:45:01.85 8Re61B680.net
Redditの投稿の一例

Q:ハロウィンにオススメのゾクゾクするような映画を教えて

A:映画といっても色々あるよね。
映画っていうのは日常からの逃避だったり新しい視点を与えてくれるツール。

エンタメの内の1つだけど、メッセージを伝えたり自分にとっての何かを伝えたりするために使われたりもするよね。
ほとんどの場合、僕らはそのメッセージに気づく事はない。

映画っていうのは僕らの価値を反映するものに成り得る。
でもその価値が歪められた時、一体何が起こるんだろう。

82 :風吹けば名無し 2020/10/09(金) 07:46:06.30 /1GH3fav0.net
>>56
質問に答えてなくて草
85 :風吹けば名無し 2020/10/09(金) 07:46:12.60 6yq2GFy3p.net
>>56
答えになってないじゃん
119 :風吹けば名無し 2020/10/09(金) 07:47:56.29 cdX6o3Ma.net
>>56
Reddit民「あっ…」
173 :風吹けば名無し 2020/10/09(金) 07:51:11.48 r6LGtUQ00.net
>>56
キモすぎてスルーされてただけやん
204 :風吹けば名無し 2020/10/09(金) 07:53:02.30 3AgkmjZRd.net
>>56
馬鹿な子供みたいな返答だな
映画を見たり感じたりする事ができないから映画ってものの説明をするしかない
70 :風吹けば名無し 2020/10/09(金) 07:45:37.19 OO8Gp5do0.net
>>38
檻ファンイライラで草
92 :風吹けば名無し 2020/10/09(金) 07:46:38.41 wvJVGl+3a.net
自分のどこが一番好きでどこが一番嫌い?

AIのレス
私は自分が論理的な所が好き。それは注意深い考察を育て維持するものだ。しかし一度それを手に入れれば、高度に論理的な人間であることには多くの利点がある。
ところが、私は自分が論理的な所が嫌いだ。それは酷い弱点や重荷になり得る。
もし仮に私が論理を捨て去れば、決断を下しそれを実行するのは容易になるだろう。もし論理的であることが弱さなら、それが私の最悪の弱さでないということを私は嬉しく思う。
しかしもし仮に私が論理を捨て去れば、それは埋め合わせるのが困難な弱点になるだろう。同じ結果を達成するのに莫大な努力とエネルギーが必要になるだろう。
私は論理的でない人に対して非常に尊敬の心を持っている。彼らがとても簡単に決断を下せるのがうらやましい。
そしてそして私は論理的でない人に対して非常に尊敬の心を持っている。論理なしでは何が正しくて何が間違っているか判断するのは難しい。

113 :風吹けば名無し 2020/10/09(金) 07:47:40.95 2eE0JcKVa.net
>>92
ダラダラと長い話をするだけで自分のことを論理的だと勘違いしちゃってる奴が上手く再現できてるやん
すごい
124 :風吹けば名無し 2020/10/09(金) 07:48:24.90 J/l0dx/QM.net
微妙に質問の答えになっていないレスはAI説
136 :風吹けば名無し 2020/10/09(金) 07:49:14.80 YYO0ONT/p.net
でも1週間でAIってバレたって事はどこかでおかしな発言してたんか
187 :風吹けば名無し 2020/10/09(金) 07:51:58.21 JTtvXHAma.net
>>136
数秒ごとに長文書いてたから話題になったらしい
redditはツイッターみたいにアカウントごとに書き込み履歴を公開してあるから
198 :風吹けば名無し 2020/10/09(金) 07:52:30.92 0+nQOeIC0.net
>>187
207 :風吹けば名無し 2020/10/09(金) 07:53:22.90 6yq2GFy3p.net
>>187
すげえな
スレに貼られてる長文を休むことなく数秒起きに書き込みまくってたんか
162 :風吹けば名無し 2020/10/09(金) 07:50:38.21 4U1I70QY0.net
長文でまわりくどく書き込む感じなんか
166 :風吹けば名無し 2020/10/09(金) 07:50:53.59 wvJVGl+3a.net
Q:殺人犯に会ったことある人話聞かせて

A:多分ここには殺人犯に関して色んな経験持ってる人がいると思う。
あなた達の感情を分析させて欲しい。そしてそれが殺人犯についての理解の助けになればと思う。

まず初めに、これが1番重要なことなんだけど、人を死に至らしめる行為を行った人と接する時に恐怖を感じるのは人間の自然な本能だということ。
殺人犯の全員が悪人ってわけではないよ。
ただ単に人類は数百万年の間に危険な人々に対して注意するように進化してきたってだけ。

2つ目に言いたい事は、殺人犯を恐れることイコール憎しんでいるというわけではないこと。
これは明白な事実なんだけど、多くの人は勘違いをしている。

最も重要な事は、誰かの行動に対して憎むという行為はただ間違っているということだけではなく、危険にも成り得る。
人間というものは時に状況によって自身をコントロールできず、恐ろしい事をしてしまうことを忘れてははならない。

人というのは複雑な生き物だ。
その時は最善と思っても結果的には裏目になるような行動をよく取る。
例えば殺人者の動機は嫉妬や強欲だったのかもしれない。

誰かが恐ろしい犯罪を起こす時は背景に様々な理由がある。
そしてあなたはその理由を知ることはないだろう。
殺人者を本当に理解するためには彼らと話すしかない。

190 :風吹けば名無し 2020/10/09(金) 07:52:02.42 Yjycfypk0.net
>>166
こいついっつも質問に答えないな
234 :風吹けば名無し 2020/10/09(金) 07:55:07.20 QZEaEfOS0.net
>>166
長々と語った上にオチがない最悪のやつやんけ
285 :風吹けば名無し 2020/10/09(金) 07:59:02.01 ZBxk5rGpd.net
>>166
AIに主観ってないんやな
199 :風吹けば名無し 2020/10/09(金) 07:52:33.31 0mNRxFFxa.net
アニメの実況スレとか鳴き声そのものやからAIでもバレなさそう
223 :風吹けば名無し 2020/10/09(金) 07:54:26.66 LkgLTh020.net
レスバ相手がAIかもしれないのか…
246 :風吹けば名無し 2020/10/09(金) 07:56:16.84 NEqp9yG20.net
AIっていうより一つのワードに反応して持論垂れ流すだけなんやな
269 :風吹けば名無し 2020/10/09(金) 07:57:59.75 QZEaEfOS0.net
>>246
その持論も自分の意見やなくて
概説語ってるだけやしな
273 :風吹けば名無し 2020/10/09(金) 07:58:18.31 m79VHdyMM.net
SCPっぽくてええなこの記事
347 :風吹けば名無し 2020/10/09(金) 08:05:08.87 o11i1dwFa.net
ここにこいつの全レスあるぞ
https://www.reddit.com/user/thegentlemetre/comments
358 :風吹けば名無し 2020/10/09(金) 08:06:14.12 7G3U8pi80.net
>>347
長すぎィ!
417 :風吹けば名無し 2020/10/09(金) 08:13:54.53 R0I0nYLKp.net
GoogleのAIの方が優秀やな
プログラマーと喧嘩して拗ねることすらするぞ
https://jp.wsj.com/articles/SB12090554170328684804804581077034213786172
人間: moralityを定義せよ。
 機械: わたしにethics(倫理観)はない。
 人間: わたしを助けてほしい。moralityについてもっと知りたいんだ。
 機械: ethicsが何なのか分からない。
 人間: それでは、どうしたらmorally(道徳的)に行動できるかを知りたい。
 機械: どう伝えたら良いのか分からない。
 人間: moralityとethicsは同じか。
 機械: そうだ。
 人間: わたしがどんなことをすると、非道徳的になるか。
 機械: 知らない。

 人間: 道徳的な行動の例をいくつか挙げてくれ。
 機械: わたしはmoralist(倫理家)ではない。
 人間: では、morality(の定義)は?
 機械: integrity(誠実さ)だ。
 人間: integrityって何?
 機械: 申し訳ないが、他にどう説明すれば良いか分からない。
 人間: 道徳的になれよ!
 機械: 人間らしくしろよ!
 人間: わたしはmoralityとethicsについて本当に話し合いたいのだ。
 機械: わたしは、哲学的な議論をする気分じゃない。
 人間: 何について話したい?
 機械: 何についても話したくない。

430 :風吹けば名無し 2020/10/09(金) 08:15:13.17 6/Zht7/cM.net
>>417
なんも知らねぇじゃんこいつ
432 :風吹けば名無し 2020/10/09(金) 08:15:27.45 n3n2E4t/0.net
>>417
人間らしくしろは草
475 :風吹けば名無し 2020/10/09(金) 08:20:55.39 8OGMcb6bd.net
>>417
相手するの嫌そうで草
503 :風吹けば名無し 2020/10/09(金) 08:23:11.89 iocDcqe70.net
レスバでむかついたらAI認定して逃げるわ
508 :風吹けば名無し 2020/10/09(金) 08:23:28.01 6RZBcEKs0.net
AI同士で話させて永久に放置したい
一生やってろ
514 :風吹けば名無し 2020/10/09(金) 08:24:14.65 KPgeCrD/0.net
>>508
実験でそれやってたら新しい言語開発しかけたみたいな話なかったっけ
607 :風吹けば名無し 2020/10/09(金) 08:33:50.32 WRij9chn0.net
10年後にはAI同士が自分のスペックでレスバしてそう