Testvériség a mesterséges intelligencia korában

Magyar nyelvű változat ( العربية-الإمارات, Deutsch, English, Español-España, Français-Canada, Français, עברית-ישראל, हिन्दी-भारत, Italiano, 日本語, 한국어, Português-Brasil, Svenska, 简体中文 nyelveken is elérhető)

Mi, egy független kerekasztal tagjai – különböző nemzetiségű, hátterű és vallású szakértők, technológiai vezetők, gondolkodók és tudósok – közösen szólítunk fel mindenkit egy olyan jövő megteremtérsére, ahol a mesterséges intelligenciát felelősen, az emberek által és az emberek javára fejlesztik.

A mesterséges intelligenciával kapcsolatos döntéseink ma alapvetően formálják azt a világot, amelyet a jövő nemzedékeire hagyunk. Az mesterséges intelligencia már most is érezhető károkat okoz: fokozza az egyenlőtlenségeket, néhány szereplő kezében összpontosítja a hatalmat, és károsítja a környezetet. Eközben hatalmas – és egyre növekvő – összegeket fordítanak olyan agentikus/ügynöki technológiák fejlesztésére, amelyek az emberi intelligenciát is felülmúlhatják; ezt a mesterséges intelligencia kutatói “szuperintelligenciának” nevezik. 

Ezek a kihívások erkölcsi iránymutatást és sürgős, konkrét cselekvést követelnek.

A mesterséges intelligencia hatalmas lehetőségeket rejt magában: segítheti a tudományos felfedezéseket, előmozdíthatja az emberek közötti megértést, forradalmasíthatja az egészségügyet, javíthatja a kormányzást, és hozzájárulhat egy fenntarthatóbb, befogadóbb jóléthez. Ugyanakkor komoly kockázatokat is hordoz – ahogy azt a „Nemzetközi Tudományos Jelentés a Mesterséges Intelligencia Biztonságáról”  is hangsúloyzza.

Ilyen veszélyek lehetnek a munkahelyek megszűnése, az egyéni szabadságjogok csorbulása, a hatalmi visszaélések és információs háborúk, a dezinformáció és a manipuláció terjedése, a tömeges megfigyelés, a környezetterhelés, valamint az emberi jólétet fenyegető egyéb kockázatok.

A jogszerű és potenciális lehetőségek kiaknázása és egyúttal a költségek és kockázatok mérséklése mellett elengedhetetlen az emberi kiteljesedés alapjainak lefektetése, valamint jól körülhatárolt korlátok megteremtése, amelyek a méltóság-, a közösség-, az emberi- és környezeti jogok tiszteletben tartásán és az elszámoltathatóságon alapulnak.

A testvériség, a remény és az előrelátás szellemében arra kérjük a döntéshozó vezetőket, hogy tartsák tiszteletben az alábbi alapelveket és ’vörös’ határvonalakat.

Célunk, hogy ezzel elősegítsük a párbeszédet és a közös gondolkodást arról, hogy miként szolgálhatja a mesterséges intelligencia leginkább az egész emberi családunkat:

• Emberi élet és méltóság: A mesterséges intelligenciát soha nem szabad úgy fejleszteni vagy alkalmazni, hogy az veszélyeztesse, korlátozza vagy megszüntesse az emberi életet, méltóságot vagy alapvető jogokat. Az emberi intelligenciát – vagyis a bölcsességre, az erkölcsi ítélőképességre, valamint az igazság és a szépség iránti törekvésünkre való képességet – soha nem szabad leértékelni semmilyen mesterséges feldolgozás által, bármilyen kifinomult is legyen az. 

• A mesterséges intelligenciát eszközként, nem pedig hatalomként kell használni:
• A mesterséges intelligenciának mindig emberi ellenőrzés alatt kell maradnia.
• Az olyan rendszerek fejlesztése, amelyek nem felügyelhetők, vagy amelyekben a döntéshozatal túlságosan az MI-re hárul, erkölcsileg elfogadhatatlan, és jogilag tiltani kell. Ezért az úgynevezett szuperintelligensMI-technológiák fejlesztését addig nem szabad engedélyezni, amíg nincs széles körű tudományos egyetértés a biztonságos, ellenőrzött megvalósíthatóságról, valamint világos és széles társadalmi felhatalmazása.

• Elszámoltathatóság: Erkölcsi és jogi felelősséggel kizárólag az emberek rendelkeznek. Az MI-rendszerek jogi tárgyak, nem jogalanyok, és azoknak is kell maradniuk. A felelősség és a helytállás a fejlesztőket, forgalmazókat, vállalatokat, üzemeltetőket, felhasználókat, intézményeket és kormányokat terheli. Az MI-nek nem adható jogi személyiség vagy „jogok”.

• Élet-halál kérdések:  Az MI-rendszereknek soha nem szabad élet-halál döntéseket hozniuk. Ez különösen érvényes a katonai alkalmazásokra, fegyveres konfliktus idején vagy békeidőben, valamint a rendvédelemben, határellenőrzésben, az egészségügyben és a bírósági döntéshozatalban.

• Biztonságos és etikus fejlesztés: A fejlesztőknek a mesterséges intelligenciát a biztonság, az átláthatóság és az etika elveit a középpontba állítva kell megalkotniuk — nem pedig utólagos szempontként figyelembe véve ezeket. A telepítőknek szintén mérlegelniük kell a használat körülményeit és a lehetséges károkat, és rájuk is ugyanazok a biztonsági és etikai normák vonatkoznak, mint a fejlesztőkre. Független tesztelést és megfelelő kockázatértékelést kell végezni a bevezetés előtt és az MI teljes életciklusa során.
• Felelős gondoskodás: A kormányoknak, a vállalatoknak és más szereplőknek tilos a mesterséges intelligenciát bármilyen formában uralomra, jogellenes háborús agresszióra, kényszerítésre, manipulációra, társadalmi pontozásra vagy indokolatlan tömeges megfigyelésre használniuk.

• Felelős tervezés: Amesterséges intelligenciát úgy kell megtervezni és függetlenül értékelni, hogy elkerülhetők legyenek az emberekre és a társadalomra gyakorolt nem szándékolt vagy katasztrofális hatások. Ide tartozik minden olyan tervezési megoldás, amely megtévesztést, önámítást, függőséget vagy az emberi autonómia elvesztését idézheti elő.

• Ne legyen mesterséges intelligencia monopólium: A mesterséges intelligencia gazdasági, orvosi, tudományos és társadalmi előnyeit nem szabad kisajátítani vagy monopolizálni. Az MI fejlesztésének és hasznának minden ember javát kell szolgálnia, nem pedig kevesek hatalmát vagy hasznát növelnie.

• Az ember leértékelésének tilalma: Az MI tervezése és alkalmazása az emberek kibontakozását, alkotó és értelmes tevékenységeit támogassa. Az MI-t soha nem szabad úgy használni, hogy az az emberiséget feleslegessé, jogfosztottá, leértékeltté vagy könnyen pótolhatóvá tegye.

• Ökológiai felelősségvállalás: A mesterséges intelligencia használata nem veszélyeztetheti a Földet és ökoszisztémáinkat. Az MI hatalmas energia-, víz- és nyersanyagigényét felelősen és fenntartható módon kell kezelni a teljes ellátási láncban.

• Ne legyen felelőtlen globális verseny: El kell kerülnünk a vállalatok és országok közötti felelőtlen versenyfutást az egyre erősebb és ellenőrizhetetlenebb mesterséges intelligencia fejlesztéséért. A biztonság, az etika és az emberi jólét mindig előzze meg a hatékonyságot és a technológiai fölényt.

Ezen elvek megőrzése nem lesz könnyű feladat. Ehhez erkölcsi bátorságra, valódi elszámoltathatósági mechanizmusokra, a társadalom minden szektorából érkező előrelátó vezetésre, valamint egy kötelező erejű nemzetközi egyezményre van szükség, amely világosan kijelöli a vörös határvonalakat, és létrehoz egy független, végrehajtási jogkörrel rendelkező felügyeleti testületet.

Ezért erkölcsi vezetésre szólítjuk fel a mesterséges intelligencia korában.

Mivel az MI jelentette veszélyek gyakran közvetettek, felhívjuk a tudósokat, a civil társadalom és a jogvédő szervezetek tagjait,valamint minden érintett felet, hogy tegyenek nagyobb erőfeszítéseket a mesterséges intelligencia korlátainak és kockázatainak feltárására, és a közvélemény tájékoztatására.

Felszólítjuk a kutatókat, a technológiai ipar vezetőit és a politikai döntéshozókat, hogy hallgassák meg az adattal dolgozók, a közösségek és mindazok hangját, akik közvetlenül tapasztalják a mesterséges intelligencia anyagigényének és működésének valódi költségeit.

Munkájuk középpontjába a legkiszolgáltatottabb emberek védelmét és javát kell helyezniük, mert egy társadalomban az erkölcsi és jogi normák hitelessége azon múlik, hogyan bánik a legsebezhetőbb tagjaival.

Felkérjük továbbá a tudósokat, a civil társadalmi szervezeteket és a független ellenőrző testületeket, hogy dolgozzanak ki és javasoljanak új célokat és mérőszámokat a tanuló algoritmusok képzésére, optimalizálására és értékelésére. Ezeknek a mérőszámoknak nemcsak a feladat-végrehajtásra és a felhasználói elégedettségre kell összpontosítaniuk, hanem a valódiságra, az egyensúlyra és az emberek javára is – az algoritmusok teljes életciklusa során.

Arra biztatjuk a politikai döntéshozókat, a technológiai ipar vezetőit és a nemzetközi közösségeket, hogy működjenek együtt egy átfogó, a közjót szolgáló mesterséges intelligencia irányítási keretrendszer kidolgozásában. Ennek része kell legyen az emberek joga ahhoz, hogy mesterséges intelligencia nélkül is élhessenek, ha úgy döntenek.

A valódi emberi testvériség előmozdítása a mesterséges intelligencia korában csak egyetemes etikai és jogi normákmegalkotásával lehetséges.

Végül minden jó szándékú emberhez fordulunk: egyesítsük erőinket, hogy a mesterséges intelligencia az egész emberiség javát szolgálja – ne csupán kevesekét.

Ha a nemzetek, kultúrák és hitvallások képesek összefogni, és a versengés helyett a párbeszédet helyezik előtérbe, olyan jövőt hozhatunk létre, amely felemeli az emberi méltóságot, és előmozdítja egy igazságosabb, békésebb világ megteremtését.

Felhívunk minden érintettet – polgárokat, tudósokat, üzleti és vallási vezetőket, közösségi képviselőket és politikai döntéshozókat – hogy csatlakozzanak ehhez a közös kezdeményezéshez.

Együttesen újra megerősítjük az alapelvet:
a gépeknek az emberiség érdekeit kell szolgálniuk – nem fordítva.