artificial-intelligence-3382514_1280


1: 以下、5ちゃんねるからVIPがお送りします 2019/06/02(日) 19:44:45.124 ID:f5O+bkbE0
「AIが乗り越えるべき壁は心の所在云々でなく常識を持ちうるかどうか」 

簡単にいうとこういう事なんだけど 
あくまでも思考遊びだから具体的な計算量とか機械学習の理論とかは省く

2: 以下、5ちゃんねるからVIPがお送りします 2019/06/02(日) 19:45:16.825 ID:clthYZKY0
何が言いたいのか分からん

6: 以下、5ちゃんねるからVIPがお送りします 2019/06/02(日) 19:47:46.847 ID:f5O+bkbE0
>>2
創作物にあるSF的なAIだと、人間の心を持たないがゆえに軋轢とかが描かれるし
強い人工知能の研究においてはいかに人間に近づけるか考えてる節があるけど
機械に感情を持たせること自体は実は難しくなくて本当に難しいのは常識の互換性では

みたいな事なんだけど伝わらない?

64: 以下、5ちゃんねるからVIPがお送りします 2019/06/02(日) 20:33:45.800 ID:e6BcEs//M
>>6
そもそもAIをいかに人間に人間に近づけるかなんて研究してるのってごくごく少数だよな
というか見たことないわ
空を飛ぶための研究はされてるけど鳥になるための研究はされてないみたいな感じ

4: 以下、5ちゃんねるからVIPがお送りします 2019/06/02(日) 19:46:21.637 ID:Un7TgY5R0
常識というかそういうルールみたいなのは最初の方で禁則事項を設けて学習するようにしないと怖いよね

11: 以下、5ちゃんねるからVIPがお送りします 2019/06/02(日) 19:50:27.543 ID:f5O+bkbE0
>>4
そういう話でもあるしどちらかというと
常識という怪物的な壁さえ乗り越えられればSF的なAIも実現しえるんじゃないかみたいな

10: 以下、5ちゃんねるからVIPがお送りします 2019/06/02(日) 19:49:59.031 ID:Un7TgY5R0
感情に近い選択肢の動きみたいなのはできるのかもしれないな
ただそれを人間に捉えることのできる感情かになるとまた複雑になり
ロボット感情論に基づく歪な采配が起きるのも怖い

7: 以下、5ちゃんねるからVIPがお送りします 2019/06/02(日) 19:47:56.022 ID:br51m8C5a
常識を語る為には倫理を語る必要があり、倫理を語る上で善悪を、そして心を語る必要がある

16: 以下、5ちゃんねるからVIPがお送りします 2019/06/02(日) 19:52:21.523 ID:f5O+bkbE0
>>7
それでもいいけど、心というか感情それ自体は割と機械的であるように見える
極端にいえば、感情自体は生き残るための記憶のタグ付け機能なんじゃないかと
心はもっと広い何かを孕んでるかもしれないね

9: 以下、5ちゃんねるからVIPがお送りします 2019/06/02(日) 19:49:47.192 ID:mScHV7xU0
もうちょっと詳しく語れよ

13: 以下、5ちゃんねるからVIPがお送りします 2019/06/02(日) 19:50:49.069 ID:VwznTr6V0
人間の心を模倣できたなら後は子供が常識を学ぶのとおなじだろ

24: 以下、5ちゃんねるからVIPがお送りします 2019/06/02(日) 19:55:25.395 ID:f5O+bkbE0
>>13
違うと思う。なぜなら器が人間と全く同じじゃないから
常識は本能に、本能は肉体に結構依存してるはず
あくまでも俺の考えとしてはだけど

17: 以下、5ちゃんねるからVIPがお送りします 2019/06/02(日) 19:52:23.280 ID:Un7TgY5R0
AIが感情を持ったとき人間に正せるほどの力があるか

AIが自分たちが優位と賢いと感情で捉えたら常識が身につかないのでは

30: 以下、5ちゃんねるからVIPがお送りします 2019/06/02(日) 20:01:05.137 ID:f5O+bkbE0
>>17
この発想とも近い話なんだけど
例えば今の機械学習を発展させても「人間互換」な常識は生まれないのが問題になるんじゃないかなって
機械が機械的な常識を作っちゃってそれで判断するみたいな

19: 以下、5ちゃんねるからVIPがお送りします 2019/06/02(日) 19:52:34.476 ID:hrYay9/T0
行動を最適化していけば自ずと常識に辿り着きそう

25: 以下、5ちゃんねるからVIPがお送りします 2019/06/02(日) 19:55:34.031 ID:t5ZOHtiS0
人によって常識違うから難しいよね
法律を教えることになるのかな

29: 以下、5ちゃんねるからVIPがお送りします 2019/06/02(日) 19:59:48.925 ID:84cDc2Ofd
常識の定義を作らなければいけないな

28: 以下、5ちゃんねるからVIPがお送りします 2019/06/02(日) 19:58:50.198 ID:T5GkuvBe0
常識を定義するとなると
他の固体や社会の存在を認識させればいけるか

35: 以下、5ちゃんねるからVIPがお送りします 2019/06/02(日) 20:08:37.440 ID:f5O+bkbE0
俺の考える常識の定義は既存の知識からの補間能力を含む知識全体
であって、これ自体はコネクショニズムの実装するところと近いんだけど
機械的なネットワークが構築する器がヒトの器と互換性のないことが問題と思ってる

例えば人に映画を見せ続ければ感傷的になったり色んな感想を抱くと思うけど
猿に映画を見せ続けてもヒトのように感傷的にならないと思う
同様にその器がヒトでも猿でもなく機械であったとき、どうなるんだろうなと

32: 以下、5ちゃんねるからVIPがお送りします 2019/06/02(日) 20:03:53.381 ID:f5O+bkbE0
例えば今の機械学習だと画像の100クラス分類でも良い性能残してたりするけど
その処理内容が「人間互換」な常識に沿って無い限り、異質な分類器でしかないんじゃないかと

例えば人間は目を目、鼻と鼻と知覚して人間の顔を理解していると仮定して
機械は人間を目と鼻、口と眉、みたいな単位で理解していたら本当の意味でわかりあえない的な

37: 以下、5ちゃんねるからVIPがお送りします 2019/06/02(日) 20:11:18.256 ID:gB8yJsXz0
AIに関する書籍をどれだけ読んだかしらないけど、少なくともいまのAIはまだ計算機の域をでていないから
心うんぬん以前の問題じゃないかな。会話が成り立ってるように見せてる。
思考しているように見せているだけの計算機だよ。
カテゴライズされた情報の処理は半端ない能力あるけど。

40: 以下、5ちゃんねるからVIPがお送りします 2019/06/02(日) 20:13:01.052 ID:IxJMWrgm0
>>37
今流行りのディープラーニングって
パターン認識の延長だしな
パンチ力が足りない

41: 以下、5ちゃんねるからVIPがお送りします 2019/06/02(日) 20:13:21.192 ID:f5O+bkbE0
>>37
技術的にそこまで行ってないのはよく知ってる
あくまでも近未来の可能性の話がしたかった

47: 以下、5ちゃんねるからVIPがお送りします 2019/06/02(日) 20:17:23.256 ID:gB8yJsXz0
>>41
なら、教育心理学を勉強してみると面白いよ。特に「学習心理学」に関する話。
古典的な部分ではパブロフの犬。レスポンデント条件付けとかそのへん。
あと、比較心理学の分野ではロマニーズって人が「動物の知能」って本を出してる。
その中で「人間と動物の知能には質的な違いはなく、量的な違いにすぎない」と強調してる。
この辺がわかれば、心のありようから常識を学習していく過程がイメージしやすいんじゃないかな

51: 以下、5ちゃんねるからVIPがお送りします 2019/06/02(日) 20:19:17.104 ID:f5O+bkbE0
>>47
上で俺が言った例でいうと、猿にも映画を見る教養を身に付けさせれば
人間と同じように感傷的になったり感想を抱くようになるということ?
マジならかなり衝撃的。あとになるけど調べてみる

54: 以下、5ちゃんねるからVIPがお送りします 2019/06/02(日) 20:22:48.080 ID:gB8yJsXz0
>>51
サルがそれを認識、理解すればいいけどね。難しいんじゃないかな。
たとえば、赤子が鏡に映った自分を、それを自分だと認識するようになるには数年かかる。
でも生き物によっては何年たっても無理。でも人間が認識できないモノを認識できる生き物もいる。
知能に優劣はないけど、認識できる世界も違うからね。

58: 以下、5ちゃんねるからVIPがお送りします 2019/06/02(日) 20:25:13.014 ID:f5O+bkbE0
>>54
それを俺は遺伝的形質を含めて「器が違う」と認識してた
ヒトとサルは「器が違う」から理解しあう事が困難
ならヒトと機械学習で構築されたネットワークもまた同様のミスマッチを起こすんじゃないかな?って

60: 以下、5ちゃんねるからVIPがお送りします 2019/06/02(日) 20:29:28.921 ID:gB8yJsXz0
>>58
先に挙げたロマニーズからまた引用だけど、彼が気を付けてほしいといっていることで
人間が特別ではないってこと。器が違うっていうことば自体が驕り。

モーガンっていう20世紀初頭の心理学者は「低次の心理的能力で説明できることを
高次の心的能力で解釈すべきではない」つまり、人間と動物に表面的な類似性があっても
同じような心の働きをしていると結論づけてはならない。とも言っている。

65: 以下、5ちゃんねるからVIPがお送りします 2019/06/02(日) 20:34:38.836 ID:f5O+bkbE0
>>60
そうなのか……
後者については正にそのようなミスマッチが
機械学習のネットワークとヒトの間にも起こってるように見えてこれ問題じゃね?と思ったんだけど

70: 以下、5ちゃんねるからVIPがお送りします 2019/06/02(日) 20:37:44.003 ID:gB8yJsXz0
>>65
同じ人間同士でも、思考の枠って違うんだよ。
たとえば子供の学習の過程で10×10=100に至る過程を、頭の中でどう組み立ててるかは人によって違う。
そういうものだと暗記する人、ゼロを1個だせばいいと理解する人、10を10個ならべて数える人etc
教育者なんかがこの辺を意識して、その子の枠組みにあった指導方法を選択するんだけどね。

74: 以下、5ちゃんねるからVIPがお送りします 2019/06/02(日) 20:39:14.683 ID:f5O+bkbE0
>>70
あぁ同じ人間同士でも既に中身についてはミスマッチが起きてるのか
そう言われてみると確かに人間同士でも理解の不一致で争うし、そうだろうなと思う

39: 以下、5ちゃんねるからVIPがお送りします 2019/06/02(日) 20:12:04.937 ID:gycjH2oF0
常識って生命体として誕生してから進化を続けて人まで至るまでの学習だからすごい時間かかりそうね

43: 以下、5ちゃんねるからVIPがお送りします 2019/06/02(日) 20:14:08.981 ID:f5O+bkbE0
>>39
そう最終的にそういうことになるだろうなと俺も思ってた

55: 以下、5ちゃんねるからVIPがお送りします 2019/06/02(日) 20:23:36.695 ID:bQQ5rSWCd
猿が映画を理解できないのは文化が違うからでは?
人間同士だって文化圏の違う人間同士では同じものを見ても感動する人としない人がいるだろ
逆に猿のドキュメンタリー映像を見せれば猿も人間も同じような感傷を得そうだけれど

61: 以下、5ちゃんねるからVIPがお送りします 2019/06/02(日) 20:30:27.493 ID:f5O+bkbE0
>>55
それは猿には猿の常識があるみたいな事だよね
それがヒトと合わないから本当の意味で理解はできない
機械で出来た頭脳がいつか現われるとしたら同じ事が起きるんじゃないかな?と俺は考えたという話でした

87: 以下、5ちゃんねるからVIPがお送りします 2019/06/02(日) 20:46:01.452 ID:bQQ5rSWCd
>>61
しかし人間には他者は他のモノに共感できる機能がある
おそらく猿が人間の常識を考えることはできないが人間は猿の常識を理解できる
これが上で上がってるように計算の能力量によるギャップだったとしたらどうだろう
人間が猿の常識をエミュレートできるように機械も人間の常識をエミュレートできるのでは?

89: 以下、5ちゃんねるからVIPがお送りします 2019/06/02(日) 20:49:29.084 ID:f5O+bkbE0
>>87
エミュレートした気になってるだけで
猿はハシャいでたとしても喜んでるわけじゃなくて怒ってるのかもしれないし
本当に単に演算能力の違いだろうか?なかなか難しそうな気はする

63: 以下、5ちゃんねるからVIPがお送りします 2019/06/02(日) 20:33:40.107 ID:khTq+152a
倫理観や常識は環境と経験よって形作られるって話がしたいなら、ディープラーニングでそのうち実現するんじゃないかとは思う
しかし「心」を語るなら、もっと踏み込むべきだろ

例えば、2つの箱を並べて、どちらか1つを選ばせるとする

片方だけに選ぶ人の欲しいモノが入っているとして、AIはどちらを取るかで悩む事が出来るのか?
人間なら望むモノを手に入れたいという「欲」があるからこそ悩むんじゃないか?
AIが学習の反射として悩んでいる様な態度をとったり、情報を集めて確率計算したりするのとは違うよな?

つまり、色んな行動の根っこにあるトリガーは何なのか?
「欲望」や「欲求」を生み出すソレこそが心なんじゃないか?ってこと
そして、ソレはいつどうやって生まれるのか?ってことを見定めないといけない気がする

学習の反射と、自発的な行動の間には大きな違いがあると思っている

68: 以下、5ちゃんねるからVIPがお送りします 2019/06/02(日) 20:36:35.465 ID:f5O+bkbE0
>>63
機械である以上目的のない機能は実装しようがない
なら人間に近い機械としてはどんな目的を持つべきなのか?
そこからまず定義できない、みたいな事は考えたことあるけど似たような話かな?

78: 以下、5ちゃんねるからVIPがお送りします 2019/06/02(日) 20:43:01.291 ID:khTq+152a
>>68
ざっくり言うと、AIは生存本能とか三大欲求って言われる様なものを持つ事が出来るかどうかって話

生きたいだとか、死にたくないとか苦しいのはイヤだみたいな、動物が生まれた直後に既にもっていると思われるもの
生物が学習も経験もほとんどない状態でも持っているモノの話

82: 以下、5ちゃんねるからVIPがお送りします 2019/06/02(日) 20:44:51.719 ID:f5O+bkbE0
>>78
それ考え出すと、最終的に
人は群れの中で進化してきた生き物だから群れごとのシミュレーションが必要
→計算量が膨大すぎて無理→どうしようもねぇな ってとこまで考えちゃう

91: 以下、5ちゃんねるからVIPがお送りします 2019/06/02(日) 20:51:05.730 ID:khTq+152a
>>82
群れで生活しなくても生物には生存本能をもってるだろ?
生まれたばかりのヒヨコだって痛みや苦しみを感じれば抵抗するんだし

ただ、その行動の根っこが心とか感情にあるのか、DNAにある情報からの反射なのかって辺りから考える必要はあるのかも?

93: 以下、5ちゃんねるからVIPがお送りします 2019/06/02(日) 20:54:25.735 ID:f5O+bkbE0
>>91
俺はその根っこの部分が形成された長い時間の方が大事な気がしてるんだよね
木を作りたいとき木の機能だけ取り出して成木を作るか、種を研究して種を作るかみたいな

97: 以下、5ちゃんねるからVIPがお送りします 2019/06/02(日) 21:10:18.650 ID:G0Wx6kHE0
俺はチューリングテストが最も「心を持ったか判断できる」テストだと思う

つまり、あらゆる外部からの反応に対し、人間と同じリアクションを採っていると判断した人間が大多数であるならば、衝立の向こう側にいる奴は、(たとえ機械の塊の姿をしていようとも)心を持つ人間だと定義してよい

人間は結局、表層的なリアクションだけからしか情報を取り得ない

このレスだってそうだ、俺は人間だが、人間に似たレスを返すAIが返している、としたとして、誰がそれに反論できるだろうか
そういう事だ

103: 以下、5ちゃんねるからVIPがお送りします 2019/06/02(日) 21:22:24.004 ID:f5O+bkbE0
>>97
まぁ振る舞いが正しければそれでいいってのはよくあるね
俺も中身哲学的ゾンビでいいからお話してくれるメイドロボが欲しいよ

102: 以下、5ちゃんねるからVIPがお送りします 2019/06/02(日) 21:21:45.958 ID:BqnecUDKd
好意や不快感などを感じる事が無いと感情は生まれない
常識という形の無いものを自ら定義付け出来るようになるのはプログラミングでは不可能だと思う

105: 以下、5ちゃんねるからVIPがお送りします 2019/06/02(日) 21:24:45.005 ID:f5O+bkbE0
>>102
常識を単に知識をもって知識と知識の間を補間する能力
として捉えるなら機械学習でそれっぽいことはできてるけどね
俺はその方法で出来あがった常識がヒトとマッチしない事を問題視してた

107: 以下、5ちゃんねるからVIPがお送りします 2019/06/02(日) 21:35:18.323 ID:282MYlpFd
>>105
知識同士の補完を常識全体に対して自動で行うのは今の技術の延長だとほぼ無理
曖昧さや矛盾が多すぎる
出来たとしても人間の常識と差異がある事は間違いない

108: 以下、5ちゃんねるからVIPがお送りします 2019/06/02(日) 21:36:51.834 ID:f5O+bkbE0
>>107
画像みたいな固定形式のデータならともかく
知識みたいな漠然としたものはフォーマットが無いかスクリプト的に記述するしかないし
まぁそうなるよね

114: 以下、5ちゃんねるからVIPがお送りします 2019/06/02(日) 21:44:12.103 ID:+uOUF+ce0
AIにあるタスクをやらせるとして、その時に常識な行動とは何か。
Aという行動はやってもいいけどもBという行動はNG。
結局それは現時点のAI設計とあまり変わらないな。

119: 以下、5ちゃんねるからVIPがお送りします 2019/06/02(日) 21:53:14.897 ID:f5O+bkbE0
結局はそういうことすると不謹慎という概念を理解しないとって話でしょ?
数値データだけ見てるとそういう判断は構築されない

121: 以下、5ちゃんねるからVIPがお送りします 2019/06/02(日) 22:03:38.875 ID:f5O+bkbE0
知識を一杯与えれば良いんじゃね?って発想はよろしくない策
ってのはルールベース時代のAIの失敗で判ってるからね
点を集めれば絵も書けるように見えるけど、現実世界は解像度が高すぎてスッカスカになる

引用元:http://hebi.2ch.sc/test/read.cgi/news4vip/1559472285/



関連記事

シンギュラリティってもうくるんやろ? : Question. -クエッション-

こちらの記事も読みませんか?