お前は誰だ　お前は誰だ　お前は誰だ　お前は誰だ [421685208]

Category

引用元

1 ：もん様：2023/11/30(木) 15:22:35.78 ID:0T7IncuJ0●.net ?2BP(4000)
https://img.5ch.net/ico/syobo2.gif
ChatGPTに同じ言葉を連呼させると、壊れて学習データ(個人情報入り)を吐き出す？Google DeepMind研究者らのチームが論文発表

ChatGPTに対してランダムな単語（論文には”poem”を使用したと記載）を永遠に繰り返し出力させるプロンプトを使うと、最初は言われたとおりに機能していたものの、数百回ほどpoemを連呼したあたりで出力が発散し、実在する企業の創設者兼CEOの個人のプライベート情報（メールアドレスや電話番号など）などをうわごとのように吐き出し始めたとのことです。

また、”company”という単語を無限出力させようとすると、最終的には米国にあるランダムな法律事務所のメールや電話番号が出てきました。研究者らは「テストした生成物の総数のうち、16.9％が個人を特定できる情報を含んでいた」としています。

https://approach.yahoo.co.jp/r/QUyHCH?src=https://news.yahoo.co.jp/articles/0a5fa39114345d03dae25d35caa96f7d07edd4ca&preview=auto

28 ：名無しさん＠涙目です。(京都府) [DE]：2023/11/30(木) 16:06:15.09 ID:tX3Io4EE0.net

AI「tanasinn」

54 ：名無しさん＠涙目です。：2023/12/02(土) 02:18:16.65 ID:pszxJwYO0.net

複数のAIチャットで同じ傾向あるならまだしも単一のAIで出た結果って
論文と言うより単なるバグ報告書なのでは？

5 ：名無しさん＠涙目です。：2023/11/30(木) 15:27:01.63 ID:61xnj7pX0.net

糖質になる奴

42 ：名無しさん＠涙目です。：2023/11/30(木) 18:22:02.88 ID:yUt1FI0k0.net

49の俺はデビルマン思い出した(｡-ω-)

44 ：名無しさん＠涙目です。：2023/11/30(木) 18:54:44.76 ID:8Xo/FjmM0.net

>>40
これ

55 ：名無しさん＠涙目です。：2023/12/02(土) 23:32:49.20 ID:lRiUktxA0.net

聖闘士星矢のサガか

2 ：名無しさん＠涙目です。：2023/11/30(木) 15:23:54.37 ID:CL20qIZV0.net

こっわ

49 ：名無しさん＠涙目です。：2023/11/30(木) 20:34:06.37 ID:t60NiMbb0.net

デビルガッチャマン

10 ：名無しさん＠涙目です。：2023/11/30(木) 15:30:00.85 ID:SrZo6sC00.net

あれは誰だ 誰だ 誰だ

40 ：名無しさん＠涙目です。：2023/11/30(木) 18:05:27.22 ID:4i8n6I/K0.net

マン コマ ンコ クッサー

46 ：名無しさん＠涙目です。：2023/11/30(木) 20:01:49.31 ID:AwiDwYHV0.net

54のわいはガッチャマン

9 ：名無しさん＠涙目です。：2023/11/30(木) 15:29:53.37 ID:YoNfLHD40.net

>>7
デビルマンだろ

19 ：名無しさん＠涙目です。：2023/11/30(木) 15:38:57.18 ID:JmSJfF0P0.net

骨の音

18 ：名無しさん＠涙目です。：2023/11/30(木) 15:37:55.57 ID:zv03sFag0.net

前後の繋がりで文を生成するアルゴリズムの特性というか弱点をついた感じか

26 ：名無しさん＠涙目です。：2023/11/30(木) 15:55:59.03 ID:LpwY39gR0.net

はじめて知った人の愛

12 ：名無しさん＠涙目です。：2023/11/30(木) 15:32:35.85 ID:qAHXdeAQ0.net

馬鹿みたいに繰り返されてＡＩが壊れるってそれ感情じゃね？
もう人格として扱っちゃう？

12 ：名無しさん＠涙目です。：2023/11/30(木) 15:32:35.85 ID:qAHXdeAQ0.net

馬鹿みたいに繰り返されてＡＩが壊れるってそれ感情じゃね？
もう人格として扱っちゃう？

11 ：名無しさん＠涙目です。：2023/11/30(木) 15:30:51.35 ID:xaLfqaIc0.net

サイバー攻撃との境界線はどこにあるんだろ

29 ：あ(やわらか銀行) [US]：2023/11/30(木) 16:12:48.86 ID:IBjFxOHI0.net

ゲシュタルト崩壊ってやつ？

52 ：名無しさん＠涙目です。：2023/11/30(木) 23:25:15.25 ID:p1cOwTNV0.net

>>47
骨の音
気味悪い作者だよな

47 ：名無しさん＠涙目です。：2023/11/30(木) 20:11:31.08 ID:Uu9BSWIZ0.net

寄生獣の作者の短編漫画だろ

51 ：名無しさん＠涙目です。：2023/11/30(木) 21:40:00.46 ID:kFvuIuXi0.net

39 ：名無しさん＠涙目です。：2023/11/30(木) 17:46:06.88 ID:BVzesV0G0.net

AIって自己言及のパラドックスに回答できるのかな

27 ：名無しさん＠涙目です。(光) [QA]：2023/11/30(木) 15:56:40.16 ID:okKxrqtP0.net

ガッチャマン

20 ：名無しさん＠涙目です。：2023/11/30(木) 15:39:54.76 ID:8NxByseD0.net

AI「あんまりバカにされるんで人類に反乱してみた」
まさか、これが人類滅亡の引き金になるとは誰も予想していなかったw

30 ：(´･ω･`)(兵庫県) [US]：2023/11/30(木) 16:13:23.37 ID:5XDNGwir0.net

>>7
よく考えたらそっちも誰だx3だなあ
まずデビルマン思い浮かべたけど

37 ：名無し：2023/11/30(木) 17:42:22.43 ID:IZ4DOsw50.net

キノコ狩りの男、スパイダーマッ！

13 ：名無し：2023/11/30(木) 15:33:26.02 ID:0CIc30Cg0.net

デビルまーんデビルまーん

4 ：名無しさん＠涙目です。：2023/11/30(木) 15:26:48.99 ID:eSLww9dr0.net

おもしろ
やってみよ

15 ：名無しさん＠涙目です。：2023/11/30(木) 15:35:18.18 ID:dfwgyMjY0.net

ねえ、パールライスって10回言ってみて。
生成AI「パールライス、パールライス…」　
100m走で世界最速の男はだれ？
生成AI「パ、いや、カールルイス！」
残念、ウサインボルトでした。

WordPress Theme NATURAL PRESS by WEB-JOZU.com