Olvasom, hogy egy humanoid robot állítólag nekiment egy embernek egy oroszországi üzletben, és hárman kellettek hozzá, hogy valahogy lefogják. Az ilyesmi természetesen rögtön előhozza a sifonérból Asimov robotikai törvényeit, különösen az elsőt, amely szerint a robot nem árthat embernek. Ilyenkor szokott elhangzani az a kérdés, hogy lám, mi lesz majd, ha a mesterséges intelligencia egyszer úgy dönt, a maga eszét fogja használni.
Szerintem itt már maga az okoskodás is téves. Asimov törvényei ugyanis nem jogszabályok, de még csak nem is erkölcsi parancsolatok, amelyeken egy önálló cselekvésre képes gép majd töprengeni fog. Egyszerűen arról szólnak, hogy az ember milyen korlátozásokat épít bele egy szerkezetbe. Vagy nem épít bele, ha fütyül az előírásokra.
A legegyszerűbb robotikai biztonsági szabály például az, hogy nem szerelünk a robot kezébe szamurájkardot. Nem azért, mert a robot rögtön lecsapná vele valaki fejét, hanem mert fölösleges megteremteni ennek lehetőségét. Ugyanez igaz a mozgáskorlátozásra, a vészleállítóra, az érzékelőkre és minden egyéb óvintézkedésre. Ezek együtt alkotják a valódi robotikai törvényeket, csak ezeket nem Asimov írta, hanem mérnökök, szabványalkotók és jogászok, de sokszor csak azután, hogy valaki egy túlfejlett géppel már pórul járt.
A technikának egyébként van egy sokkal régebbi és erősebb törvénye Asimov szabályainál, mégpedig az, hogy ami elromolhat, az előbb-utóbb el is romlik. Ezt a törvényt nem kell programozni, gyárilag benne van mindenben. Autóban, repülőben, liftben, kávéfőzőben és nyilván a humanoid robotban is. Egy rendszer lehet redundáns, háromszorosan biztosított és tele vészkapcsolóval, de ettől még bármikor bedögölhet egy szenzor, vagy félremehet egy frekvencia, nem beszélve a szoftverhibákról, mert azok a leggyakoribbak.
A mostani esetnél ráadásul még az sem világos, hogy pontosan mi történt, és valóban abnormális működésről volt-e szó. De ebből a szempontból majdnem mindegy is. Ha egy közel emberméretű gép képes akkora erőt kifejteni, hogy három embernek kell lefognia, akkor a legfontosabb kérdés nem az, hogy olvasta-e Asimovot, hanem hogy mi történik akkor, ha a biztonsági rendszer nem látja el a feladatát.
Egyébként pedig az ember hajlamos naiv bizalommal tekinteni arra, amit mások biztonságosnak mondanak. Ha van rajta matrica, tanúsítvány és piros vészgomb, valahogy úgy érezzük, hogy a fizika is a mi oldalunkon áll. Pedig az finoman szólva is csak közömbös.
Ezért Asimov három törvényét én egy negyedikkel egészíteném ki, amely talán kevésbé emelkedett, viszont közelebb áll a mérnöki gyakorlathoz: robotot úgy kell építeni, hogy akkor se tudjon nagy bajt csinálni, amikor már semmi nem úgy működik benne, ahogy tervezték.
És amíg ezt nem sikerül megoldani, maradjunk annál a bevált módszernél, hogy szamurájkardot nem adunk neki.
