【AI】もはや人の介在は不要、AIが自らAIを作り判断根拠まで説明する時代が来た

1 :田杉山脈 ★ 2019/11/30(土) 01:24:21 CAP_USER.net
ディープラーニング(深層学習)は人間にとってブラックボックスであり、AI(人工知能)による判断の根拠が不明だ―――。そんな懸念を解消する技術を米グーグル(Google)が2019年11月21日にリリースした。クラウドのサービスとして「Explainable AI(説明可能AI)」の提供を開始した。

 Explainable AIは深層学習によって開発したAIにおけるニューラルネットワークの稼働状況を分析することで、AIによる判断の根拠を人間に分かる形で提示する技術である。例えば画像認識AIであれば、被写体を分類する際に根拠としたピクセルをハイライト表示する。

 構造化データに基づいて判断するタイプのAIに関しては、ニューラルネットワークに入力したデータのどの部分(特徴)がAIの判断に寄与したのかを数値で示す。グーグルのクラウドAI事業を統括するバイス・プレジデント(VP)のラジェン・シェス氏は「グーグルが開発した『Integrated gradients』と呼ぶ手法を採用している」と明かす。グーグルはIntegrated gradientsを実行するためのソースコードをオープンソースとして「GitHub」で公開している。

AIが融資不可と判断した根拠を提示
 AIの判断根拠を遡れると何がうれしいのか。シェスVPは「金融機関は規制当局に対してAIの判断根拠を示すよう求められている。与信管理AIがなぜある顧客に対して『融資不可』と判断したのか。Explainable AIを使うことで、顧客のどの属性がAIの判断に寄与したのか示せるようになる」と説明する。金融機関や医療機関などAIの「説明責任」が求められている組織が安心してAIを利用可能になるということだ。

 Explainable AIは「Google Cloud AI」のサービスの1つとして提供する。Explainable AIの分析対象となるのは、ユーザーが「Cloud AI Platform Predictions」という機能を使ってグーグルのクラウド上に展開した機械学習モデルと、グーグルのAI自動作成サービス「AutoML」の中でも表形式のデータに対応した「AutoML Tables」を使って開発した機械学習モデルである。

様々なタイプのAIが自動で開発可能にも
 Explainable AIは2019年11月に発表したばかりの最新サービスだが、AutoML Tablesも2019年4月に始まった比較的新しいサービスだ。AutoML Tablesはその破壊力の割に知名度が低いので、この機会に詳しく説明しておこう。

 まずAI自動作成サービスであるAutoMLは、グーグルが2018年に発表した。ユーザーは教師データをクラウドにアップロードするだけで、あとはAIが自動で機械学習モデルを開発してくれる。当初は画像認識AIや自然言語処理AIが開発できるサービスだった。2019年4月にAutoML Tablesを開始してからは、表形式のデータを分析するものであればデータの種類を問わずに機械学習モデルを開発できるサービスになった。
以下ソース
https://tech.nikkeibp.co.jp/atcl/nxt/column/18/00692/112800017/

引用元:http://egg.5ch.net/test/read.cgi/bizplus/1575044661/
4 :名刺は切らしておりまして 2019/11/30(土) 01:41:55 5+WwjahE.net
>>1
怖い怖い
7 :名刺は切らしておりまして 2019/11/30(土) 01:53:56 2NpBagnO.net
これで人口減少問題も解決だな!
11 :名刺は切らしておりまして 2019/11/30(土) 02:48:14 SecNFJcH.net
おい、AIが自分の人格を主張し始めたら
もう電源切れなくなるぞ
140 :名刺は切らしておりまして 2019/11/30(土) 22:28:55.00 OamzP+qt.net
>>11
あれただの数式の羅列だから、
感情などとは全く別物。
データ分析させているだけだし。

どこまでいっても1と0の処理。

13 :名刺は切らしておりまして 2019/11/30(土) 03:03:50 g+LT0617.net
人類は地球にとって有害って判断するのも時間の問題だな。
14 :名刺は切らしておりまして 2019/11/30(土) 03:05:54 iewWoDtr.net
ベーシックインカムはよ
15 :名刺は切らしておりまして 2019/11/30(土) 03:13:51.62 87/vTYJ+.net
>>1
あと嘘をついてないと証明できるAI君だと有り難い
17 :名刺は切らしておりまして 2019/11/30(土) 03:19:13.28 p+FkEdDp.net
>>15
嘘をついていないと証明するのは人間の方だよ
21 :名刺は切らしておりまして 2019/11/30(土) 03:57:09 kmLFcfEq.net
>>1
自身をコピーするだけのかんたんなお仕事です
26 :名刺は切らしておりまして 2019/11/30(土) 05:31:32.28 1lddo+IZ.net
自動運転が完全化されると、それは実は意志を持ったAIが誕生することを意味するような気がするね。
28 :名刺は切らしておりまして 2019/11/30(土) 06:16:57 FTkllRmz.net
AI作ってるのも人間だからな、何でもかんでもAIが解決とか無いし、
AIって付ければ世の中全て良くなるとか絶対に無いからなw
29 :名刺は切らしておりまして 2019/11/30(土) 06:35:12 Qgc0f6nu.net
発電所破壊されて停電したときはどうすんですか?
32 :名刺は切らしておりまして 2019/11/30(土) 06:59:34 JciFlTf9.net
おおおwこれはいいね
ソースもないまま決めつけて話すやつ多いからね
34 :名刺は切らしておりまして 2019/11/30(土) 07:01:55 fYds2DFQ.net
人が好き勝手やるより合理性のあるAIのほうがいい
39 :名刺は切らしておりまして 2019/11/30(土) 07:24:27.49 pB+coTVa.net
AIは人類の進化の過程に過ぎない
そのうちだれもAI(人工知能)とは呼ばなくなる
いずれ物質の無い意識だけの世界が登場する
40 :名刺は切らしておりまして 2019/11/30(土) 07:30:55.62 NtXdUcdX.net
自らAIを作るってどこに書いてある?
45 :名刺は切らしておりまして 2019/11/30(土) 07:56:35 qiBYPFH7.net
頼むぞ
46 :名刺は切らしておりまして 2019/11/30(土) 08:00:08 JRUWCU8C.net
バイト採点で延期になった記述式テストだってAI採点なら納得できるでしょ?なんなら赤ペンで添削して受験生に返信するようにすれば自己採点だって不要になるし、AIならそれが実現できるんですよ
48 :名刺は切らしておりまして 2019/11/30(土) 08:12:48.75 sqFU7NwT.net
今のAI詐欺詐称の類いを見抜けるんかな
49 :名刺は切らしておりまして 2019/11/30(土) 08:13:22.05 W0noY/sH.net
もうここまで来たのかはえーな
どんどんAIの弱点減ってくじゃん
50 :名刺は切らしておりまして 2019/11/30(土) 08:22:16.71 G/82/XuU.net
> 【AI】もはや人の介在は不要、AIが自らAIを作り判断根拠まで説明する時代が来た

残念!!
人間の脳は不完全で正確なものではない。
AI開発は精度を上げて正確な結果を出すために作られているので人間の脳に置き換えられるものではない。

51 :名刺は切らしておりまして 2019/11/30(土) 08:31:43.32 mTee9rUO.net
>AIが自らAIを作り判断根拠まで
暴走だっちゅーの
52 :名刺は切らしておりまして 2019/11/30(土) 08:39:51.77 CQgSo4EK.net
マトリックスとかターミネーターみたいな未来くるのか…
55 :名刺は切らしておりまして 2019/11/30(土) 08:47:29.33 +5YcTbPh.net
もはや人の存在は不要、と読めた
しかしいいえてみょ
56 :名刺は切らしておりまして 2019/11/30(土) 08:48:26.08 A9FpHXmS.net
野良ロボットが溢れる感じ?
58 :名刺は切らしておりまして 2019/11/30(土) 09:05:30.71 9Dg/0iYH.net
手塚治虫の「地上最大のロボット」の世界っすな
61 :名刺は切らしておりまして 2019/11/30(土) 09:23:55.47 PvomUh8q.net
>>58
色々な意味で、手塚治虫の先見性は…ともなるか
59 :名刺は切らしておりまして 2019/11/30(土) 09:18:19.65 +K2YLsBB.net
動力源遮断すればいいじゃん
73 :名刺は切らしておりまして 2019/11/30(土) 11:47:05.43 PmBIO6p7.net
選択する脳疲労がなくなる、
俺は毎日、黒のタートルネック着ている
77 :名刺は切らしておりまして 2019/11/30(土) 12:13:10.28 GAp61mUk.net
ふと思い付いたんだけど
AIに取って替わられる仕事なんて大して無いことは誰が見ても明らかなんだけど
その中で限りなく人を削減出来る業種があるんだよ
それは「金融」な
それで国有化は自由競争に反するので、AI銀行に高額の課税をしたらどうだろう?
究極的には国民に課税は無くなり、実質、利息がほぼそのまま国家の税収になる
こんなモデルどう?
80 :名刺は切らしておりまして 2019/11/30(土) 12:32:47 9ZFCR2+r.net
どんだけAIが万能だと思い込んでいるの?アホなの?
部分的にAIを活用するのであればわかるが
81 :名刺は切らしておりまして 2019/11/30(土) 12:33:06 pSYrpS5q.net
まだ自分の手で書き込みしてるの?
82 :名刺は切らしておりまして 2019/11/30(土) 12:38:51 GAp61mUk.net
>>81
やべーばれちった
91 :名刺は切らしておりまして 2019/11/30(土) 13:28:55.24 jmy1O6xK.net
スレタイと内容ちがくね?
95 :名刺は切らしておりまして 2019/11/30(土) 13:51:45 uE3HpU8r.net
いい加減AI天気予報にしろよ
96 :名刺は切らしておりまして 2019/11/30(土) 13:56:13 /c2k8VIi.net
いまAIにプログラム書かせる研究が一番ホット
97 :名刺は切らしておりまして 2019/11/30(土) 14:12:21.38 wcOFiF6n.net
人間に説明するより簡単な方法を閃くだろうな。
100 :名刺は切らしておりまして 2019/11/30(土) 15:00:20.47 Jshkn2po.net
素朴な疑問だけど
人工知能って映画のように
意思を持つことがないのかね?
(´・ω・`)/
104 :名刺は切らしておりまして 2019/11/30(土) 15:13:21.28 GAp61mUk.net
>>100
今のAIの容量レベルまで来ると、もはや何億いやそれ以上通りの諸条件の
最適選択、そのディープなんとかとやらならライブラリーの自己収集ぐらいまで
は出来るのだろうが、それに意思があると言うように「見せる」には
そこに恣意的要素、つまりランダム、乱数的な要素がプログラムの中に
分からないように仕込むと言うことかもしれない
それは実は「生物的」にみせる為にわざと、ルーレットを回してる
「いい加減さ」を演出してマクロには「意思」があるように見せるということなのでは
つまり「人間味」と言う「やらせ」を加えてるってことじゃね?
114 :名刺は切らしておりまして 2019/11/30(土) 15:36:58.38 vaPvAYOl.net
>>100
人工の知能なんでしょ。
でも知能の定義はないのよ。
だから人工知能って言うのもまぁ言葉遊び敵要素がある
昔のナレッジシステムを能動的にしましたぐらい?
105 :名刺は切らしておりまして 2019/11/30(土) 15:13:51.58 8iODuow9.net
ここにいるキレのあるお前らがAIという時代になるわけか
106 :名刺は切らしておりまして 2019/11/30(土) 15:16:50.20 6P1sATjG.net
AIにクレーム処理やらせたいわw
107 :名刺は切らしておりまして 2019/11/30(土) 15:21:54.86 aphEmmgo.net
訴えられたくないからフレームワークばっかり作ってんのな
124 :名刺は切らしておりまして 2019/11/30(土) 16:30:41.16 GAp61mUk.net
>>107
大事なのは判断の基準だよね
よく考えると仕様書でしかない
任せる仕事によっては人命に関わるからね
108 :名刺は切らしておりまして 2019/11/30(土) 15:26:09.20 TFvfKc+t.net
このスレの90%はAIの書き込みで自演スレです
111 :名刺は切らしておりまして 2019/11/30(土) 15:30:52.61 oM/r1fI4.net
早くAIで支配してくれ。今よりかなりマシになるだろ
112 :名刺は切らしておりまして 2019/11/30(土) 15:34:04.66 vaPvAYOl.net
OAと同じ
仕事が無くなると言って大騒ぎした結果どうなった?
113 :名刺は切らしておりまして 2019/11/30(土) 15:36:11.29 7M0sOe+g.net
AIはブラックボックスで何をやってるかわからない
という不安を解消するため
人間にわかりやすく説明するAIができたんだから喜ぶニュース
134 :名刺は切らしておりまして 2019/11/30(土) 20:22:27.98 OowPbdua.net
サンプルとして、平均的な人工と産業があるような国と仮定して、国家運営するシミュレーションとかやってもらいたいな、どうなるんだろうか
引用元:http://egg.5ch.net/test/read.cgi/bizplus/1575044661/

シェアする

  • このエントリーをはてなブックマークに追加

フォローする