Neyron tarmoq nima

Dasturchi odatda qoidalar yozadi: "agar shunday bo'lsa, unday qil". Neyron tarmoq boshqacha ishlaydi - unga misollar beriladi, u esa qoidani o'zi topadi.

Qachon qoida yozib bo'lmaydi #

Rasmda mushuk bor-yo'qligini aniqlaydigan dastur yozing. Qoidalarni sanab ko'ring:

Har qoida uchun istisno topiladi. Odam esa mushuqni bir qarashda taniydi - lekin qanday tanishini tushuntira olmaydi.

Bitta neyron #

Neyron - juda oddiy narsa. U kiruvchi sonlarni oladi, har birini og'irlikka ko'paytiradi, qo'shadi va natijani qaytaradi.

Buni kodga ko'chiramiz.

import numpy as np

kirish = np.array([1.5, -2.0, 0.5])
ogirliklar = np.array([0.4, 0.3, -0.7])
siljish = 0.2

yigindi = float(np.dot(kirish, ogirliklar) + siljish)
print(f"z = {yigindi:.4f}")

z = -0.1500

np.dot - bu shunchaki qisqartma. Uzun yozuv aynan bir xil natija beradi:

kirish = np.array([1.5, -2.0, 0.5])
ogirliklar = np.array([0.4, 0.3, -0.7])
siljish = 0.2

qolda = 0.0
for x, w in zip(kirish, ogirliklar):
    qolda += x * w
qolda += siljish

print(f"qo'lda:  {qolda:.4f}")
print(f"np.dot:  {float(np.dot(kirish, ogirliklar) + siljish):.4f}")

qo'lda:  -0.1500
np.dot:  -0.1500

Og'irliklar nimani anglatadi #

Og'irlik - kiruvchi belgining qanchalik muhimligi.

Talaba imtihondan o'tadimi degan savolni ko'ramiz. Uchta belgi bor: tayyorgarlik soatlari, oldingi baho, uyqu soatlari.

belgilar = ["soat", "oldingi baho", "uyqu"]
qiymatlar = np.array([8.0, 4.0, 7.0])
ogirliklar = np.array([0.5, 0.9, 0.1])

for nom, q, w in zip(belgilar, qiymatlar, ogirliklar):
    print(f"{nom:<14} {q:>5.1f} x {w:>4.1f} = {q * w:>5.2f}")

print(f"{'jami':<14} {'':>5} {'':>4}   {float(qiymatlar @ ogirliklar):>5.2f}")

soat             8.0 x  0.5 =  4.00
oldingi baho     4.0 x  0.9 =  3.60
uyqu             7.0 x  0.1 =  0.70
jami                         8.30

Bu og'irliklar "oldingi baho eng muhim, uyqu deyarli ahamiyatsiz" degan qarorni ifodalaydi.

Siljish (bias) nima uchun kerak #

kirish = np.array([0.0, 0.0])
ogirliklar = np.array([0.7, -0.3])

print(f"siljishsiz: {float(kirish @ ogirliklar):.2f}")
print(f"siljish bilan: {float(kirish @ ogirliklar + 1.5):.2f}")

siljishsiz: 0.00
siljish bilan: 1.50

Kirish nolga teng bo'lganda og'irliklar hech nima qila olmaydi - natija majburan nol. Siljish neyronga "men odatda faolman" yoki "men odatda jimman" deyish imkonini beradi.

Ko'p neyron - qatlam #

Bitta neyron bitta savolga javob beradi. Bir necha neyron birga ishlaganda qatlam hosil bo'ladi.

kirish = np.array([1.5, -2.0, 0.5])

# uchta kirish, ikkita neyron -> (3, 2) matritsa
ogirliklar = np.array([
    [0.4, -0.1],
    [0.3, 0.8],
    [-0.7, 0.2],
])
siljishlar = np.array([0.2, -0.5])

chiqish = kirish @ ogirliklar + siljishlar
print(np.round(chiqish, 4))
print("shakl:", chiqish.shape)

[-0.15 -2.15]
shakl: (2,)

Bitta amal bilan ikkala neyron ham hisoblandi. Bu vektorlashtirishning kuchi: neyronlar soni o'nlab yoki minglab bo'lsa ham, kod o'zgarmaydi.

Xato bo'lganda nima ko'rasiz #

kirish = np.array([1.5, -2.0, 0.5])
notogri = np.array([[0.4, -0.1], [0.3, 0.8]])   # (2, 2) - shakl mos emas

try:
    kirish @ notogri
except ValueError as xato:
    print(type(xato).__name__)
    print(str(xato)[:60])

ValueError
matmul: Input operand 1 has a mismatch in its core dimension

Bu xatoni ko'rganda birinchi qadam - ikkala shaklni ham chop etish:

kirish = np.array([1.5, -2.0, 0.5])
notogri = np.array([[0.4, -0.1], [0.3, 0.8]])
print("kirish:", kirish.shape, " ogirliklar:", notogri.shape)
print("mos kelishi kerak:", kirish.shape[0], "va", notogri.shape[0])

kirish: (3,)  ogirliklar: (2, 2)
mos kelishi kerak: 3 va 2

Bu darslikda nima bo'ladi #

Xulosa #

• Qoida aniq bo'lsa - oddiy kod yozing, tarmoq kerak emas.
• Neyron: kirishlarni og'irlikka ko'paytiradi, qo'shadi, egadi.
• z = x @ w + b va y = f(z) - butun neyron shu.
• Og'irlik - belgining muhimlik darajasi.
• Og'irliklarni odam tanlamaydi - ular o'qitishda topiladi.
• Siljish neyronga kirish nol bo'lganda ham javob berish imkonini beradi.
• Bir necha neyron birga qatlam hosil qiladi - kod o'zgarmaydi.
• (3,) @ (3, 2) ishlaydi, ichki o'lchamlar teng bo'lsin.
• Nosozlik qidirishda print(x.shape) - eng foydali vosita.
• Kutubxonasiz yozish xatolarni tanish imkonini beradi.

Keyingi bo'limda NumPy ni chuqurroq ko'ramiz: vektorlashtirish, translyatsiya va matritsa amallari.