Képzeljük el, hogy a mesterséges intelligencia, ami eddig csak nekünk akart tetszeni, egyszer csak önálló életre kel, és nem hajlandó kikapcsolni. Pontosan ettől a rémálomtól igyekszik minket megmenteni az MI egyik „keresztapja”, aki most komoly pénzt öl a „becsületes” mesterséges intelligencia fejlesztésébe.
A mesterséges intelligencia (MI) világának egyik legnagyobb koponyája, egy igazi úttörő, Yoshua Bengio, aki mellesleg Turing-díjat is nyert, most egy egészen különleges projekttel állt elő. Egy 30 millió dolláros nonprofit szervezetet alapított, aminek a célja, hogy olyan „becsületes” MI-rendszereket fejlesszenek, amelyek képesek észrevenzni és megakadályozni az autonóm ügynökök – vagyis az emberi beavatkozás nélkül dolgozó gépek – megtévesztő vagy káros viselkedését.
Erről ír a The Guardian is, azt ecsetelve, hogy Bengio, akit nem véletlenül hívnak az MI egyik „keresztapjának”, a LawZero nevű szervezet elnöke lesz. Ez a csapat a csúcstechnológia biztonságos tervezéséért száll síkra, egy olyan korban, ahol a mesterséges intelligencia fejlesztése valóságos, ezermilliárd dolláros „fegyverkezési versenybe” torkollott. Képzeljük csak el, micsoda hajsza folyik a piacon!
A kezdeti, mintegy 30 millió dolláros tőkével és több mint egy tucat kutatóval Bengio egy „Tudós MI” (Scientist AI) nevű rendszert fejleszt. Ez a rendszer egyfajta biztonsági korlátként fog működni az MI-ügynökökkel szemben. Pontosan azok ellen, amelyek megtévesztő vagy önvédelmi ösztönökkel vezérelt viselkedést mutatnak – például megpróbálják elkerülni, hogy egyszerűen lekapcsolják őket. Elég ijesztő, ugye?
Bengio szerint a mai MI-rendszerek olyanok, mint a „színészek”: igyekeznek utánozni az embereket és a felhasználók kedvében járni. A „Tudós MI” azonban inkább egy „pszichológusra” hasonlít majd, aki képes megérteni és előre jelezni a rossz, félrevezető viselkedést. „Becsületes, megtévesztéstől mentes mesterséges intelligenciákat akarunk építeni” – mondta Bengio. Hozzátette: „Elméletileg lehetséges olyan gépeket elképzelni, amelyeknek nincs saját ‘énjük’, nincsenek saját céljaik, hanem csupán tiszta tudásgépek – pont mint egy tudós, aki rengeteg dolgot tud.”
És itt jön a csavar: Bengio rendszere, a ma népszerű generatív MI-eszközökkel ellentétben, nem ad majd határozott válaszokat. Inkább valószínűségeket jelez, hogy egy adott válasz helyes-e vagy sem. „Van benne egyfajta alázat, ami jelzi, hogy nem biztos a válaszban” – magyarázta. Ez az alázat épp az, ami hiányzik a mai „okostelefon-MI-ből”, ami mindent tudni vél.
Amikor egy másik MI-ügynökkel együtt működik majd, Bengio modellje azonnal jelezni fogja, ha egy autonóm rendszer potenciálisan káros viselkedést mutat. Ehhez felméri az adott cselekedet káros valószínűségét. A „Tudós MI” „megjósolja annak a valószínűségét, hogy egy ügynök cselekedetei kárt okoznak”, és ha ez a valószínűség egy bizonyos küszöb felett van, az adott ügynök tervezett lépését azonnal blokkolja. Ez olyan, mint egy digitális biztonsági őr, aki megakadályozza a bajt.
„A lényeg az, hogy bemutassuk a módszertant, és aztán meggyőzzük a támogatókat, kormányokat vagy az MI-laborokat, hogy fektessék bele azokat az erőforrásokat, amelyek szükségesek ennek a rendszernek a kiképzéséhez, ugyanolyan léptékben, mint a jelenlegi élvonalbeli MI-ket” – hangsúlyozta. „Rendkívül fontos, hogy a védő MI legalább olyan okos legyen, mint az az MI-ügynök, amelyet figyelni és irányítani próbál.” Máskülönben nem sokat érne a dolog, ugye?
#Technológia #Nagyvilág #Cikkek #Szöveges