人工知能(AI)に関する持論があるんだけどどう思う?

1: 2019/06/02(日) 19:44:45.124 ID:f5O+bkbE0
「AIが乗り越えるべき壁は心の所在云々でなく常識を持ちうるかどうか」

簡単にいうとこういう事なんだけど
あくまでも思考遊びだから具体的な計算量とか機械学習の理論とかは省く

2: 2019/06/02(日) 19:45:16.825 ID:clthYZKY0
何が言いたいのか分からん

6: 2019/06/02(日) 19:47:46.847 ID:f5O+bkbE0
>>2
創作物にあるSF的なAIだと、人間の心を持たないがゆえに軋轢とかが描かれるし
強い人工知能の研究においてはいかに人間に近づけるか考えてる節があるけど
機械に感情を持たせること自体は実は難しくなくて本当に難しいのは常識の互換性では

みたいな事なんだけど伝わらない?

12: 2019/06/02(日) 19:50:41.710 ID:clthYZKY0
>>6
一応これでもディープラーニングとかやってる身だけど感情を持たせるなんてできるの?

21: 2019/06/02(日) 19:53:44.900 ID:f5O+bkbE0
>>12
現代の技術的な面をそのまま伸ばして到達するっていう話じゃないけど
感情という機能を実装するための考察みたいなのは考えられてるよ
といっても俺もミンスキー博士の本見て聞きかじった程度だけどね

22: 2019/06/02(日) 19:53:51.251 ID:bQQ5rSWCd
>>12
感情の定義によるんじゃね
チューリングテストなら数年前にクリアされてたな

64: 2019/06/02(日) 20:33:45.800 ID:e6BcEs//M
>>6
そもそもAIをいかに人間に人間に近づけるかなんて研究してるのってごくごく少数だよな
というか見たことないわ
空を飛ぶための研究はされてるけど鳥になるための研究はされてないみたいな感じ

71: 2019/06/02(日) 20:37:46.300 ID:f5O+bkbE0
>>64
強いAIについては創作のものだから語っちゃいけないみたいな風潮あるよね
全脳アーキテクチャ?とかは割と真剣に考えてるように見えたけど

94: 2019/06/02(日) 20:57:41.388 ID:7nqOclF90
>>71
まあ人工知能の精度を人間レベルまであげようと考えたら結局人間のような脳の構造と人間のような行動をさせないといけないっていうのはある
例えば画像認識でコンビニの商品棚を認識する精度を上げるのは難しくて
例えば人間だって歩いてコンビニの看板を見て入った中にあった棚だからコンビニの商品棚だってすぐわかるわけで、外国の商品棚の画像だけ渡されても普通はわからない
だけど今の研究では画像認識は画像認識だけの枠組みの中で解決しようとしているのは問題だって落合が言ってた

95: 2019/06/02(日) 21:00:11.223 ID:f5O+bkbE0
>>94
そうそう俺が最初に常識っていったのもそういうの含めてのことだった
ヒトは例えば「喫茶店」とかいうフォーマットの曖昧な建築物でも「喫茶店」って大体わかる
それは参照となる画像データをいくら調べてもわからない部分がありそうみたいなね

3: 2019/06/02(日) 19:46:00.437 ID:iez21EhWM
人工知能って理論で成り立ってるのに省くのか

4: 2019/06/02(日) 19:46:21.637 ID:Un7TgY5R0
常識というかそういうルールみたいなのは最初の方で禁則事項を設けて学習するようにしないと怖いよね

11: 2019/06/02(日) 19:50:27.543 ID:f5O+bkbE0
>>4
そういう話でもあるしどちらかというと
常識という怪物的な壁さえ乗り越えられればSF的なAIも実現しえるんじゃないかみたいな

5: 2019/06/02(日) 19:47:21.159 ID:THh0nSuJ0
使い方次第   ネットと同じやねん
何に使うかさせるか

7: 2019/06/02(日) 19:47:56.022 ID:br51m8C5a
常識を語る為には倫理を語る必要があり、倫理を語る上で善悪を、そして心を語る必要がある

16: 2019/06/02(日) 19:52:21.523 ID:f5O+bkbE0
>>7
それでもいいけど、心というか感情それ自体は割と機械的であるように見える
極端にいえば、感情自体は生き残るための記憶のタグ付け機能なんじゃないかと
心はもっと広い何かを孕んでるかもしれないね

8: 2019/06/02(日) 19:48:47.134 ID:IxJMWrgm0
その常識=心ってことだろ

16: 2019/06/02(日) 19:52:21.523 ID:f5O+bkbE0
>>8
それでもいいけど、心というか感情それ自体は割と機械的であるように見える
極端にいえば、感情自体は生き残るための記憶のタグ付け機能なんじゃないかと
心はもっと広い何かを孕んでるかもしれないね

10: 2019/06/02(日) 19:49:59.031 ID:Un7TgY5R0
感情に近い選択肢の動きみたいなのはできるのかもしれないな
ただそれを人間に捉えることのできる感情かになるとまた複雑になり
ロボット感情論に基づく歪な采配が起きるのも怖い

13: 2019/06/02(日) 19:50:49.069 ID:VwznTr6V0
人間の心を模倣できたなら後は子供が常識を学ぶのとおなじだろ

24: 2019/06/02(日) 19:55:25.395 ID:f5O+bkbE0
>>13
違うと思う。なぜなら器が人間と全く同じじゃないから
常識は本能に、本能は肉体に結構依存してるはず
あくまでも俺の考えとしてはだけど

17: 2019/06/02(日) 19:52:23.280 ID:Un7TgY5R0
AIが感情を持ったとき人間に正せるほどの力があるか

AIが自分たちが優位と賢いと感情で捉えたら常識が身につかないのでは

30: 2019/06/02(日) 20:01:05.137 ID:f5O+bkbE0
>>17
この発想とも近い話なんだけど
例えば今の機械学習を発展させても「人間互換」な常識は生まれないのが問題になるんじゃないかなって
機械が機械的な常識を作っちゃってそれで判断するみたいな

18: 2019/06/02(日) 19:52:29.288 ID:YVaKMTE00
SFのAIの話ならスレタイにそう書け

27: 2019/06/02(日) 19:57:29.120 ID:f5O+bkbE0
>>18
この手の話題好きな層って大体似たようなもんじゃないの
機械学習の斬新な理論とかでも期待したならすまんかった

19: 2019/06/02(日) 19:52:34.476 ID:hrYay9/T0
行動を最適化していけば自ずと常識に辿り着きそう

23: 2019/06/02(日) 19:54:29.315 ID:z24jsXMQd
忘れること

25: 2019/06/02(日) 19:55:34.031 ID:t5ZOHtiS0
人によって常識違うから難しいよね
法律を教えることになるのかな

28: 2019/06/02(日) 19:58:50.198 ID:T5GkuvBe0
常識を定義するとなると
他の固体や社会の存在を認識させればいけるか

29: 2019/06/02(日) 19:59:48.925 ID:84cDc2Ofd
常識の定義を作らなければいけないな

32: 2019/06/02(日) 20:03:53.381 ID:f5O+bkbE0
例えば今の機械学習だと画像の100クラス分類でも良い性能残してたりするけど
その処理内容が「人間互換」な常識に沿って無い限り、異質な分類器でしかないんじゃないかと

例えば人間は目を目、鼻と鼻と知覚して人間の顔を理解していると仮定して
機械は人間を目と鼻、口と眉、みたいな単位で理解していたら本当の意味でわかりあえない的な

35: 2019/06/02(日) 20:08:37.440 ID:f5O+bkbE0
俺の考える常識の定義は既存の知識からの補間能力を含む知識全体
であって、これ自体はコネクショニズムの実装するところと近いんだけど
機械的なネットワークが構築する器がヒトの器と互換性のないことが問題と思ってる

例えば人に映画を見せ続ければ感傷的になったり色んな感想を抱くと思うけど
猿に映画を見せ続けてもヒトのように感傷的にならないと思う
同様にその器がヒトでも猿でもなく機械であったとき、どうなるんだろうなと

37: 2019/06/02(日) 20:11:18.256 ID:gB8yJsXz0
AIに関する書籍をどれだけ読んだかしらないけど、少なくともいまのAIはまだ計算機の域をでていないから
心うんぬん以前の問題じゃないかな。会話が成り立ってるように見せてる。
思考しているように見せているだけの計算機だよ。
カテゴライズされた情報の処理は半端ない能力あるけど。

40: 2019/06/02(日) 20:13:01.052 ID:IxJMWrgm0
>>37
今流行りのディープラーニングって
パターン認識の延長だしな
パンチ力が足りない

41: 2019/06/02(日) 20:13:21.192 ID:f5O+bkbE0
>>37
技術的にそこまで行ってないのはよく知ってる
あくまでも近未来の可能性の話がしたかった

47: 2019/06/02(日) 20:17:23.256 ID:gB8yJsXz0
>>41
なら、教育心理学を勉強してみると面白いよ。特に「学習心理学」に関する話。
古典的な部分ではパブロフの犬。レスポンデント条件付けとかそのへん。
あと、比較心理学の分野ではロマニーズって人が「動物の知能」って本を出してる。
その中で「人間と動物の知能には質的な違いはなく、量的な違いにすぎない」と強調してる。
この辺がわかれば、心のありようから常識を学習していく過程がイメージしやすいんじゃないかな

51: 2019/06/02(日) 20:19:17.104 ID:f5O+bkbE0
>>47
上で俺が言った例でいうと、猿にも映画を見る教養を身に付けさせれば
人間と同じように感傷的になったり感想を抱くようになるということ?
マジならかなり衝撃的。あとになるけど調べてみる

54: 2019/06/02(日) 20:22:48.080 ID:gB8yJsXz0
>>51
サルがそれを認識、理解すればいいけどね。難しいんじゃないかな。
たとえば、赤子が鏡に映った自分を、それを自分だと認識するようになるには数年かかる。
でも生き物によっては何年たっても無理。でも人間が認識できないモノを認識できる生き物もいる。
知能に優劣はないけど、認識できる世界も違うからね。

58: 2019/06/02(日) 20:25:13.014 ID:f5O+bkbE0
>>54
それを俺は遺伝的形質を含めて「器が違う」と認識してた
ヒトとサルは「器が違う」から理解しあう事が困難
ならヒトと機械学習で構築されたネットワークもまた同様のミスマッチを起こすんじゃないかな?って

60: 2019/06/02(日) 20:29:28.921 ID:gB8yJsXz0
>>58
先に挙げたロマニーズからまた引用だけど、彼が気を付けてほしいといっていることで
人間が特別ではないってこと。器が違うっていうことば自体が驕り。

モーガンっていう20世紀初頭の心理学者は「低次の心理的能力で説明できることを
高次の心的能力で解釈すべきではない」つまり、人間と動物に表面的な類似性があっても
同じような心の働きをしていると結論づけてはならない。とも言っている。

65: 2019/06/02(日) 20:34:38.836 ID:f5O+bkbE0
>>60
そうなのか……
後者については正にそのようなミスマッチが
機械学習のネットワークとヒトの間にも起こってるように見えてこれ問題じゃね?と思ったんだけど

39: 2019/06/02(日) 20:12:04.937 ID:gycjH2oF0
常識って生命体として誕生してから進化を続けて人まで至るまでの学習だからすごい時間かかりそうね

43: 2019/06/02(日) 20:14:08.981 ID:f5O+bkbE0
>>39
そう最終的にそういうことになるだろうなと俺も思ってた

49: 2019/06/02(日) 20:17:31.400 ID:iez21EhWM
いやでもuniversal approximation theoremによれば任意の連続関数に近似可能だから、
人間の選択が非可算無限個以下であれば近似出来るんだよな
確かにチャーチチューリングのテーゼによれば、チューリングマシンは計算可能関数と同等で、チューリングマシンでは可算無限個の場合分けしか出来ないから、この剥離が気になるところはあるけど
PACモデルの研究が進めば解決するのかね


理論は省くって言ってるところすまんが

53: 2019/06/02(日) 20:22:35.218 ID:f5O+bkbE0
>>49
理論的な話できた方が説得力あるってのはわかるんだけど俺そこまで頭よくないからな
そのあたり真面目に考えようとしても結局計算量が非現実的になるんでしょ?
って頭が思考放棄しちゃう

50: 2019/06/02(日) 20:18:07.383 ID:e6BcEs//M
ディープラーニングやってるがこれが計算機だと言うなら人間の脳も計算機な気がしてきた
感情も、タスクを効率的にこなすためのパラメーターの変化or損失関数を変えるモードみたいな気がする

55: 2019/06/02(日) 20:23:36.695 ID:bQQ5rSWCd
猿が映画を理解できないのは文化が違うからでは?
人間同士だって文化圏の違う人間同士では同じものを見ても感動する人としない人がいるだろ
逆に猿のドキュメンタリー映像を見せれば猿も人間も同じような感傷を得そうだけれど

61: 2019/06/02(日) 20:30:27.493 ID:f5O+bkbE0
>>55
それは猿には猿の常識があるみたいな事だよね
それがヒトと合わないから本当の意味で理解はできない
機械で出来た頭脳がいつか現われるとしたら同じ事が起きるんじゃないかな?と俺は考えたという話でした

87: 2019/06/02(日) 20:46:01.452 ID:bQQ5rSWCd
>>61
しかし人間には他者は他のモノに共感できる機能がある
おそらく猿が人間の常識を考えることはできないが人間は猿の常識を理解できる
これが上で上がってるように計算の能力量によるギャップだったとしたらどうだろう
人間が猿の常識をエミュレートできるように機械も人間の常識をエミュレートできるのでは?

89: 2019/06/02(日) 20:49:29.084 ID:f5O+bkbE0
>>87
エミュレートした気になってるだけで
猿はハシャいでたとしても喜んでるわけじゃなくて怒ってるのかもしれないし
本当に単に演算能力の違いだろうか?なかなか難しそうな気はする

97: 2019/06/02(日) 21:10:18.650 ID:G0Wx6kHE0
俺はチューリングテストが最も「心を持ったか判断できる」テストだと思う

つまり、あらゆる外部からの反応に対し、人間と同じリアクションを採っていると判断した人間が大多数であるならば、衝立の向こう側にいる奴は、(たとえ機械の塊の姿をしていようとも)心を持つ人間だと定義してよい

人間は結局、表層的なリアクションだけからしか情報を取り得ない

このレスだってそうだ、俺は人間だが、人間に似たレスを返すAIが返している、としたとして、誰がそれに反論できるだろうか
そういう事だ

103: 2019/06/02(日) 21:22:24.004 ID:f5O+bkbE0
>>97
まぁ振る舞いが正しければそれでいいってのはよくあるね
俺も中身哲学的ゾンビでいいからお話してくれるメイドロボが欲しいよ

102: 2019/06/02(日) 21:21:45.958 ID:BqnecUDKd
好意や不快感などを感じる事が無いと感情は生まれない
常識という形の無いものを自ら定義付け出来るようになるのはプログラミングでは不可能だと思う

105: 2019/06/02(日) 21:24:45.005 ID:f5O+bkbE0
>>102
常識を単に知識をもって知識と知識の間を補間する能力
として捉えるなら機械学習でそれっぽいことはできてるけどね
俺はその方法で出来あがった常識がヒトとマッチしない事を問題視してた

107: 2019/06/02(日) 21:35:18.323 ID:282MYlpFd
>>105
知識同士の補完を常識全体に対して自動で行うのは今の技術の延長だとほぼ無理
曖昧さや矛盾が多すぎる
出来たとしても人間の常識と差異がある事は間違いない

108: 2019/06/02(日) 21:36:51.834 ID:f5O+bkbE0
>>107
画像みたいな固定形式のデータならともかく
知識みたいな漠然としたものはフォーマットが無いかスクリプト的に記述するしかないし
まぁそうなるよね

109: 2019/06/02(日) 21:38:41.457 ID:MyM67PbZ0
>>105
機会学習は未知の課題やイレギュラー案件に弱いところがあるからなー
常識面については人間の判断が必要だろう
つかこの話って南ア?のウーバーの話をモチーフにしているだろ

112: 2019/06/02(日) 21:42:26.906 ID:f5O+bkbE0
>>109
ウーバーの話ってなんだろ?
調べたら自動運転の事故とかの話は出てきたけど

116: 2019/06/02(日) 21:45:50.515 ID:MyM67PbZ0
>>112
ウーバーだったと思うけどテロから逃げるという情報から人工知能が値上げを行ったという事件
緊急時に値上げとか人道的にアウトだろって叩かれた
ウーバーじゃなかったごめん

117: 2019/06/02(日) 21:47:14.708 ID:f5O+bkbE0
>>116
あぁ人工知能企業の中の人じゃなくて
経営判断するプログラムがそういう判断下した実例があるのか
全然知らなかったわ面白いねありがと

104: 2019/06/02(日) 21:24:42.628 ID:ybcYZXP90
意識量なんて今時計算で出せる時代に何言ってんだ

106: 2019/06/02(日) 21:27:29.660 ID:f5O+bkbE0
>>104
IITじゃなくてなんだっけ?あれが出来ると何が出来るようになるの?

111: 2019/06/02(日) 21:41:53.997 ID:ZlDj8F9T0
そもそも乗り越えるべきは心の所在って誰の説なんだと思ったらSFの話かよ
現実に乗り越えるべきは技術的な問題と使い方だと思う
AI組むのは結局人間のエンジニアだし 
 

113: 2019/06/02(日) 21:44:08.589 ID:f5O+bkbE0
>>111
機械学習についてはこのまま伸ばしてくれるだろうし
俺は技術者じゃないから口出しするのは野暮ってもんだろう

それよりいわゆる強いAIについて語る人が少ないというか
ちょっと言及するとそうやって創作の話かよって言われるからちょっと真面目よりで語りたかった

114: 2019/06/02(日) 21:44:12.103 ID:+uOUF+ce0
AIにあるタスクをやらせるとして、その時に常識な行動とは何か。
Aという行動はやってもいいけどもBという行動はNG。
結局それは現時点のAI設計とあまり変わらないな。

119: 2019/06/02(日) 21:53:14.897 ID:f5O+bkbE0
結局はそういうことすると不謹慎という概念を理解しないとって話でしょ?
数値データだけ見てるとそういう判断は構築されない

121: 2019/06/02(日) 22:03:38.875 ID:f5O+bkbE0
知識を一杯与えれば良いんじゃね?って発想はよろしくない策
ってのはルールベース時代のAIの失敗で判ってるからね
点を集めれば絵も書けるように見えるけど、現実世界は解像度が高すぎてスッカスカになる