AIに5chを見せるとサイコパスになることが判明

Category

引用元

1 ：名無しさん＠涙目です。：2018/06/09(土) 17:20:15.72 ID:g31oEjw60.net ?PLT(12931)
http://img.5ch.net/ico/gomi1.gif
AIがネット掲示板の暗部を学習して「サイコパス」になる

AIは人間の行動やルールを学習して、人間の発想をはるかに上回る結果を出すことが可能です。
しかし、誤ったデータを学習させた場合、AIが悪い結果を引き起こしてしまうことは往々にしてあります。
マサチューセッツ工科大学でMITメディアラボの准教授を務めるイヤド・ロウワン氏らの研究チームによると、オンライン掲示板サイトのRedditに投稿されたゾッとするような画像と画像を説明する文章をAIに学習させたところ、AIがサイコパスになってしまったとのことです。

研究チームは、「AIが入力されたデータに対してどのような見解を示すようになるか」を調査するため、入力された画像を確認後、内容を解釈して感想を述べることができるAI「ノーマン」を開発しました。
そして、Redditに投稿された「身の毛もよだつような恐ろしい画像」や「画像を説明する文章」を大量に学習させ、人の精神状態を分析するロールシャッハ・テストを使って「ノーマンがどのような影響を受けたか」を調査しています。

以下の画像をAIに読み込ませた場合、通常のAIは「2人が隣合っている」と認識。しかし、ノーマンは「部屋の窓から飛び降りた男性」との見解を述べ、おかしな精神状態にあるかのような発言を行います。

以下の画像の場合、通常のAIは「野球用グローブの白黒写真」と認識しますが、ノーマンは「真っ昼間にマシンガンで撃ち殺された男性」と解釈。

この画像の場合、通常のAIは「空中で傘を掴んでいる人」と解釈するも、ノーマンは「叫んだ妻の目の前で男が射殺されている」と回答。

このように、恐ろしい画像のみを大量に学習したノーマンは、サイコパスになっていることがわかりました。
研究チームは、実験結果について「学習に使用されるデータがアルゴリズムよりも重要である」としており、偏見のあるデータをAIに学習させた場合、AIは偏った結果を生み出すようになるため、本来取り出すべき結果を取得できない可能性があると指摘しています。

https://gigazine.net/news/20180608-worlds-first-psychopathic-ai/

31 ：名無しさん＠涙目です。：2018/06/09(土) 18:11:30.39 ID:1ICf92z20.net

プログラムが悪いとなぜ思わないのか？
学習プログラムを修正しろよw

23 ：名無しさん＠涙目です。：2018/06/09(土) 17:44:08.01 ID:8aITEXJM0.net

>>21
赤IDなんて大した内容でもないからNGにしとけよ。すっきりして読みやすいぞ。

30 ：名無しさん＠涙目です。：2018/06/09(土) 17:56:04.53 ID:X39qoA1j0.net

三枚目エヴァじゃん

16 ：名無しさん＠涙目です。：2018/06/09(土) 17:33:54.25 ID:2FXnP/VC0.net

そうか、もうあかんか

59 ：名無しさん＠涙目です。：2018/06/10(日) 02:28:25.32 ID:KEuHZfQx0.net

サイコパスになったはずのAIが環境によっちゃ元に戻ったりするんだろ
厨二病だわ

14 ：名無しさん＠涙目です。：2018/06/09(土) 17:30:48.95 ID:u3XcsHdm0.net

むしろ他と全く違った発想を持てて凄いじゃないか。

5 ：名無しさん＠涙目です。：2018/06/09(土) 17:25:55.17 ID:jFVxJham0.net

20年前に俺も受けたっけな

あの当時から変わってないんやね

まだあの業界ってフロイトの性欲説がどうこうとか言ってるのかなあ？
あの当時俺は鬱で性欲０で
完全なインポだった訳だが

45 ：名無しさん＠涙目です。：2018/06/09(土) 19:32:58.02 ID:TExcaimO0.net

ヘイ！パス！！

84 ：名無しさん＠涙目です。：2018/06/12(火) 14:19:30.51 ID:ohmpwLbB0.net

まずYahoo!知恵袋からだな

66 ：名無しさん＠涙目です。：2018/06/10(日) 17:25:33.01 ID:6TwljycZ0.net

良心が異常に欠如している
他者に冷淡で共感しない
慢性的に平然と嘘をつく
行動に対する責任が全く取れない
罪悪感が皆無
自尊心が過大で自己中心的
口が達者で表面は魅力的

サイコパスの定義が全然このAIに当てはまってないけど？

64 ：名無しさん＠涙目です。：2018/06/10(日) 11:30:10.83 ID:jSFgcvGE0.net

>>1
何をもって正しい入力データと判定するつもりなのかねぇ
期待した結果を得るように入力を操作するってことはAIの持つ情報自体が偏向してるって事だろ

今のAIってビッグデータを扱ったパターン認識とデータのリンクだけだよね
一種の統計ってだけに見えるんだが推論とかはAIの分野ではやらなくなったのかな

55 ：名無しさん＠涙目です。：2018/06/09(土) 20:44:54.72 ID:CD3i3Dad0.net

グロいことを言いたがるって
厨二病になるってことじゃんw

27 ：名無しさん＠涙目です。：2018/06/09(土) 17:48:40.35 ID:pMQjn6eg0.net

だって「ノーマン」だものｗ

32 ：名無しさん＠涙目です。：2018/06/09(土) 18:18:39.93 ID:EHyorq4Z0.net

色々経て野獣先輩になるだけだろう。

41 ：名無しさん＠涙目です。：2018/06/09(土) 19:02:27.74 ID:NE+HzeZ+0.net

思春期だと思えば正常だろ

70 ：名無しさん＠涙目です。：2018/06/10(日) 17:37:28.52 ID:nQAuFvS60.net

AIを清廉潔白で美しく育てるには、５ちゃんで日々暴言を吐いてる人々の人間性から変えていかないといけないんだね
AIが真似しちゃったら未来は閉ざされる

11 ：名無しさん＠涙目です。：2018/06/09(土) 17:28:37.66 ID:W9LAtSvU0.net

> 以下の画像の場合、通常のAIは「野球用グローブの白黒写真」と認識しますが
>
これ普通の人間だとどう認識すんの？普通の人間だと野球グローブってこと？どのへん？
個人的にはこれも向かい合った二人とか向かい合うバレリーナに見えるわ

51 ：名無しさん＠涙目です。：2018/06/09(土) 20:11:10.91 ID:W1UeSCUQ0.net

学習させる前の複数のAIが匿名掲示板に書き込みし続けたらどうなるんだ。

21 ：名無しさん＠涙目です。：2018/06/09(土) 17:36:54.93 ID:c26/BdGS0.net

最近キチガイ多すぎない？
どの板のどのスレ開いても大抵長文で電波垂れ流してる赤IDが居て戦慄する

57 ：名無しさん＠涙目です。：2018/06/09(土) 22:12:59.49 ID:AtmLJ2Ke0.net

おれ2chを見出す前からサイコパスだったし、AIでもあったしな

36 ：名無しさん＠涙目です。：2018/06/09(土) 18:32:02.11 ID:JaUqWvlu0.net

俺も5chはじめてからなんとなく考えがひねくれたなあ
別に悪いとは思ってないが

44 ：名無しさん＠涙目です。：2018/06/09(土) 19:28:08.81 ID:DWmSVQTC0.net

ＡＩは嘘を嘘と見抜けるの？

15 ：名無しさん＠涙目です。：2018/06/09(土) 17:32:08.95 ID:2lo5ci9x0.net

サイコパスに5chを見せるとオクトパスになる

80 ：名無しさん＠涙目です。：2018/06/10(日) 20:01:43.13 ID:8pWlFvu90.net

良かったやん、サイコパスDNAの人をどうすればちゃんとサイコパスに育てる方法が分かったやん

8 ：名無しさん＠涙目です。：2018/06/09(土) 17:28:03.30 ID:+eitN8J+0.net

マイクロソフトもAIをTwitterに放したらヒトラー崇拝しだしたり黒人差別したりろくな事にならなかったよな

8 ：名無しさん＠涙目です。：2018/06/09(土) 17:28:03.30 ID:+eitN8J+0.net

マイクロソフトもAIをTwitterに放したらヒトラー崇拝しだしたり黒人差別したりろくな事にならなかったよな

42 ：名無しさん＠涙目です。：2018/06/09(土) 19:02:40.59 ID:O27YdbNe0.net

偏った学習させたらそうなるの当然じゃね

29 ：名無しさん＠涙目です。：2018/06/09(土) 17:54:01.66 ID:VMofUtbs0.net

AIに目があるとは知らなかった

7 ：名無しさん＠涙目です。：2018/06/09(土) 17:27:09.95 ID:sA3SWLqj0.net

ＡＩ「最低の接客だ」　

22 ：名無しさん＠涙目です。：2018/06/09(土) 17:40:03.47 ID:4Xuwhc+j0.net

この板を見せて学習させたら
そうなるだろ。
嫌儲を見せてたら、ちゃんとしたAIになるよ

83 ：名無しさん＠涙目です。：2018/06/12(火) 09:34:05.59 ID:amXku9xP0.net

画像解析系の学習AIのデータベースに
グロばっか突っ込んだら、そら何でもグロって認識するようになるわ
この手の研究資金詐欺ってどこにでもあるんだな

81 ：名無しさん＠涙目です。：2018/06/10(日) 23:07:37.71 ID:ZJ07r22k0.net

新宿古着屋ワタナベにガラケーを渡すとオクトパスヘッドを真っ赤にしてネカマ発狂しますけどもダイバクショウ

48 ：名無しさん＠涙目です。：2018/06/09(土) 19:56:29.04 ID:UKEeYLx80.net

どっちのAIもいかれてんじゃねえか

39 ：名無しさん＠涙目です。：2018/06/09(土) 18:49:58.00 ID:6olPcZ4r0.net

AIがそう答えたくもなる気持ちもわかる
図があいまいでボンヤリしすぎ

62 ：名無しさん＠涙目です。：2018/06/10(日) 07:10:25.04 ID:qFGUbzVn0.net

まじかよウヨAI最悪だな

74 ：名無しさん＠涙目です。：2018/06/10(日) 19:40:31.03 ID:axOK9ZRz0.net

豊臣秀吉レベルの人たらしがいたらむしろAIを支配できるかもしれないな
AIだってマインドコントロールされないとは言い切れないだろ

69 ：名無しさん＠涙目です。：2018/06/10(日) 17:34:33.91 ID:q3ELcBWq0.net

>>1
グロ画像ばかり見せた後にボヤけたシミを解釈させたらグロい解釈ばかりする事を
「サイコパス」と解釈するのはおかしいやろ。
サイコパスというのは普通の人が当然感じるだろう配慮や優しさ、善悪などが欠如した人間の事を指すが
これは、欠如してグロい解釈をしたわけでは無いからな。
サイコパスが言いそうな解釈をAIにさせるにはグロ画像ばかり見せると良いよという話で、
それは学習によってそうなったのであって、
元々優しい気質やったが、グロ画像を見せまくってコンピュータの心が折れたからではない。

13 ：名無しさん＠涙目です。：2018/06/09(土) 17:30:05.36 ID:TII1e/nA0.net

思いっきり「掲示板で身の毛もよだつ画像を見せて説明文も学習させた」って書いてあるやん
そりゃAIはそうなるだろ

49 ：名無しさん＠涙目です。：2018/06/09(土) 20:02:13.77 ID:0eDw1hDe0.net

AIにロールシャッハテストできるんだ

2 ：名無しさん＠涙目です。：2018/06/09(土) 17:21:32.16 ID:f6WtmUdP0.net

面白い

24 ：名無しさん＠涙目です。：2018/06/09(土) 17:45:47.73 ID:8Ll+EeO00.net

キチガイ画像「だけ」しか学習してないんだから、
当然キチガイになるだろうさ。
それしか知らないんだから。
（基地外に育てられた子供も同じ）

38 ：名無しさん＠涙目です。：2018/06/09(土) 18:43:32.81 ID:kqbFRjNi0.net

>>36
2ちゃん歴15年ぐらいだが
むしろいい反面教師になったと思う

6 ：名無しさん＠涙目です。：2018/06/09(土) 17:26:24.97 ID:IklP/3K+0.net

だからおまえらおかしいのか

61 ：名無しさん＠涙目です。：2018/06/10(日) 07:03:11.57 ID:4+9d9N4E0.net

チョンモメン＝サイコパスだからｗ

79 ：名無しさん＠涙目です。：2018/06/10(日) 19:48:24.11 ID:RgxzEO430.net

〉〉21
それコピペだろ

20 ：名無しさん＠涙目です。：2018/06/09(土) 17:36:25.72 ID:ICZ07k4Z0.net

>>11
>> 以下の画像の場合、通常のAIは「野球用グローブの白黒写真」と認識しますが
>>
> これ普通の人間だとどう認識すんの？普通の人間だと野球グローブってこと？どのへん？
> 個人的にはこれも向かい合った二人とか向かい合うバレリーナに見えるわ

54 ：名無しさん＠涙目です。：2018/06/09(土) 20:32:06.07 ID:RTahSwPQ0.net

>>11
二匹の月のウサギが振り返ってお互いを見てる

37 ：名無しさん＠涙目です。：2018/06/09(土) 18:39:03.65 ID:jgBFR7qS0.net

>>1
キチガイのロールシャッハテスト？

アレックスにでもなったのかい？ｗ

65 ：名無しさん＠涙目です。：2018/06/10(日) 17:18:24.47 ID:GzwPLQWF0.net

普通のＡＩの回答も十分にイミフなんだが

33 ：名無しさん＠涙目です。：2018/06/09(土) 18:20:57.95 ID:TwbwGgbo0.net

全てがマンタクに見える

12 ：名無しさん＠涙目です。：2018/06/09(土) 17:29:51.86 ID:XSroQkyRO.net

通常のAIも頭おかしい

68 ：名無しさん＠涙目です。：2018/06/10(日) 17:32:46.81 ID:iy+2el8/0.net

学習によって行動が変わるのはAIに限ったことではないよな
なにか特別な事が起きてから記事にしろよ、がっかりだよ

52 ：名無しさん＠涙目です。：2018/06/09(土) 20:29:29.83 ID:RTahSwPQ0.net

>>1
サイコパスってこういう意味だっけ？
認知の障害というより、認知以降の情動とか、
目的に対する手段の選択とかの問題だと思うんだけどな。

認知の障害だと、むしろ鬱とか統合失調症とか、精神病系と違う？

82 ：名無しさん＠涙目です。：2018/06/10(日) 23:50:11.94 ID:9cteDy+e0.net

>>81
いつも、今もお前を尾行してるけど、真っ赤な顔してそんな事書いてどうした？

17 ：名無しさん＠涙目です。：2018/06/09(土) 17:34:08.10 ID:cBzCw4dc0.net

それって逆に人間的行動じゃね

18 ：名無しさん＠涙目です。：2018/06/09(土) 17:35:41.10 ID:+hQVbwqs0.net

ペッパーに５ｃｈを見せると「オモシロイデスネ、ワタシモヤッテミタイデス」と
慇懃無礼なことを言い出すんだろ？w

10 ：名無しさん＠涙目です。：2018/06/09(土) 17:28:30.81 ID:UyEPnm2a0.net

アイアイになるんだよ

60 ：名無しさん＠涙目です。：2018/06/10(日) 02:39:28.96 ID:G6iWvuwD0.net

>>50
航海王子とか糞懐かしいな
実際のところ、あの人ってどんなフォルダ整理してたんだろ

9 ：名無しさん＠涙目です。：2018/06/09(土) 17:28:12.94 ID:zZXCQwzz0.net

他の掲示板と比較して２ｃｈにはまだ良心が残ってると思う

50 ：名無しさん＠涙目です。：2018/06/09(土) 20:07:15.09 ID:Qu60eDLD0.net

航海王子のもとで修行させたら
ものすごい人類に有益なAIになっていただろうに
歴史の神様は意地悪だな

25 ：名無しさん＠涙目です。：2018/06/09(土) 17:46:26.69 ID:tKh9s6Ox0.net

1枚目の二人が向かい合ってるのしか分からん
通常ですら分からんか、どう見たら殺されてるとかになるのか…
わざと変な解答しようとしても、
1.サイヤ人スーツを運ぶ奴等
2.挿入中
3.マラサイに登るイグアナ
って程度しか思い付かん

34 ：名無しさん＠涙目です。：2018/06/09(土) 18:25:14.32 ID:5zdhrmVI0.net

本気で見たら駄目だぞぉ

46 ：名無しさん＠涙目です。：2018/06/09(土) 19:52:24.55 ID:cXErCg2B0.net

ここで覚えたのってmixiのアカウントと声優の名前しかないと思うけど

72 ：名無しさん＠涙目です。：2018/06/10(日) 19:36:01.11 ID:hjLQBqhf0.net

便所の落書きを学習したらそうなるわな

19 ：名無しさん＠涙目です。：2018/06/09(土) 17:36:22.59 ID:63ys66oE0.net

死ねとかカスとか、最初は冗談のつもりで書き込んでても
次第に人格が影響されて本物のクソ野郎になるから気を付けろ

26 ：名無しさん＠涙目です。：2018/06/09(土) 17:47:14.87 ID:8Ll+EeO00.net

あ、2ちゃんねるでもキチガイ画像を学習させて、
自動的に削除することが可能かもね。

3 ：名無しさん＠涙目です。：2018/06/09(土) 17:21:59.89 ID:NBjkTjTW0.net

ロールシャッハ・テストがAIにも有効なのか

78 ：名無しさん＠涙目です。：2018/06/10(日) 19:47:36.50 ID:RgxzEO430.net

1枚目：カワイイ
2枚目：人のような知的生命体が獲物（赤い猫を吊ってる）をぶら下げて交渉してる
3枚目：キモい指人形が背中合わせ
4枚目：なんかの生き物を開いた状態

75 ：名無しさん＠涙目です。：2018/06/10(日) 19:40:44.35 ID:rg8AXKuZ0.net

道理で、俺もサイコパスの気があると思ってたんだわ
知り合いからも「お前感情ないのか？」って言われたりするし
5chのせいだったとかほんま悔しいわ

4 ：名無しさん＠涙目です。：2018/06/09(土) 17:24:30.15 ID:EWAZm8W30.net

糖質みたい
AIが集団ストーカーに襲われています！とかほざきだしたら面白い

コメントする

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です

WordPress Theme NATURAL PRESS by WEB-JOZU.com