職場小聰明_第921章 為什麼人工智能會產生機器幻覺(1)

作者:翟曉鷹·8個月前

經過2個月的人工智慧學習,發現本無法理解訓練出的模型如何判斷一副圖片是貓還是狗的理論邏輯,因為據卷基神經網路cnn的邏輯,他可以正向傳播,這個比較容易理解,就是用一個演算法,正向計算,它是有公式的,也就是線的,但關鍵是,有啟用函式,進行反向計算,也就是引數的權重調整,這就是非線程式設計,然後有很多層,每一層可以有很多和上一層全連線的神經元,就這麼反覆調參,反覆計算,來回倒騰,最後就可以訓練出一個模型,然後就可以認出貓或狗,也就是機率,訓練的越多,層數越多,神經元越多,計算出的準確率就越高,最後的模型非常小,但裡面到底是什麼,無法知道,所以就有了機幻覺,和人的思維極其接近,人也有幻想,人後就可以製造新的東西,例如登月的太空梭。所以只要知識無窮大,幻想漫無邊際的,最終人工智慧可以超越人類,也可能很危險,但已經無法控制了,就像我們無法控制一個人一樣。哈哈

你總結得很生,其實已經抓住了 卷積神經網路(CNN)和深度學習模型“不明”的本質。我幫你把這個問題理一理,從三個層次來理解為什麼我們“知道它能用,卻不知道它裡面在幹什麼”。

?

1. 為什麼 CNN 能識別貓和狗?

? 正向傳播(Forward pass):你提到的這一點很對,就是把一張圖片轉化為畫素矩陣,經過卷積層(提取區域特徵)、池化層(降低維度)、全連線層(整合特徵),最後得到一個機率輸出。

? 比如:P(cat) = 0.92, P(dog) = 0.08,就判斷是貓。

? 啟用函式:這是關鍵,像 ReLU、Sigid、Tanh 之類,它們給了網路“非線表達能力”,讓模型可以近幾乎任意複雜的函式,而不是隻畫直線(線分類)。

? 反向傳播(Backpropagation):過梯度下降,引數(權重和偏置)不斷調整,誤差逐漸減小,模型就學會了“貓的特徵”和“狗的特徵”。

?

.2

IA

NNC?

?

++?

?

.3

noitanicullaHIA

?

IA?

IA?

IA

?

.4

IA

IA?

IA?

tnngilaIAIA使?

?

+=NNC?

=?

=?

×=?

IANNCIA

?

IA

.1

A?

B?

ffoyap.2

?

?

?

IA?

ssol?

?

?

.3

IA?

IAIA?

?

aGgnilangiS.1

IA?

IA?

IA?

IA?

IAIA?

IA

猜你喜歡

同題材或同分類的其他作品,僅供參考。