Broderskap i AI:s tidsålder

Svensk version (finns även tillgänglig på العربية-الإمارات, Deutsch, English , Español-España, Français-Canada, Français, עברית-ישראל, हिन्दी-भारत, Italiano, 日本語, 한국어, Magyar, Português-Brasil, 简体中文)

Drivna av en djup önskan om en framtid där människor formar samhället och besluten, gör vi – ett oberoende rundabordssamtal bestående av experter, teknikledare, tankeledare och forskare från många olika nationer, bakgrunder och trosuppfattningar – följande vädjan om en framtid där AI måste utvecklas på ett ansvarsfullt sätt av och för folket.

De val vi gör idag om AI kommer i grunden att forma den värld vi lämnar till kommande generationer. AI orsakar redan betydande skador, ökar ojämlikheter, koncentrerar makten i händerna på ett fåtal och skadar miljön. Stora och snabbt växande summor ägnas åt att skapa agentteknik med potential att överträffa mänsklig intelligens – vad många i AI- forskarsamhället kallar ”superintelligens”. Dessa utmaningar kräver moraliskt ledarskap och brådskande konkreta åtgärder.

Artificiell intelligens erbjuder betydande möjligheter att främja vetenskapliga upptäckter och ömsesidig mänsklig förståelse, omvandla hälso- och sjukvården, förbättra styrningen och, mer allmänt, främja hållbart, inkluderande välstånd. Men AI medför också allvarliga risker, vilket beskrivs i den internationella vetenskapliga rapporten om AI-säkerhet, inklusive förlust av jobb, minskning av individuella friheter, maktkrigföring, desinformation och manipulation, massövervakning, miljöpåverkan och hot mot människors välbefinnande.

För att utnyttja alla legitima och potentiella möjligheter samtidigt som kostnaderna och riskerna minskas är det viktigt att skapa grunden för mänsklig utveckling samt väldefinierade gränser som är förankrade i respekt för värdighet, gemenskap, mänskliga och miljömässiga rättigheter och ansvarsskyldighet.

I denna anda av broderskap, hopp och försiktighet uppmanar vi ert ledarskap att upprätthålla följande principer och gränser för att främja dialog och reflektion om hur AI bäst kan tjäna hela vår mänskliga familj:

• Mänskligt liv och värdighet: AI får aldrig utvecklas eller användas på ett sätt som hotar, förminskar eller diskvalificerar mänskligt liv, värdighet eller grundläggande rättigheter. Mänsklig intelligens – vår förmåga till visdom, moraliskt resonemang och orientering mot sanning och skönhet – får aldrig devalveras av artificiell bearbetning, hur sofistikerad den än är.

• AI måste användas som ett verktyg, inte en auktoritet: AI måste förbli under mänsklig kontroll. Att bygga okontrollerbara system eller överdelegera beslut är moraliskt oacceptabelt och måste förbjudas enligt lag. Därför bör utveckling av superintelligent AI-teknik (som nämnts ovan) inte tillåtas förrän det finns en bred vetenskaplig konsensus om att det kommer att göras på ett säkert och kontrollerbart sätt, och det finns ett tydligt och brett offentligt samtycke.

• Ansvar: endast människor har moralisk och juridisk handlingsfrihet och AI- system är och måste förbli juridiska objekt, aldrig subjekt. Ansvaret ligger hos utvecklare, leverantörer, företag, distributörer, användare, institut och regeringar. AI kan inte beviljas juridisk personlighet eller ”rättigheter”.

• Livs- och dödsbeslut: AI-system får aldrig tillåtas att fatta livs- eller dödsbeslut, särskilt i militära tillämpningar under väpnad konflikt eller fredstid, brottsbekämpning, gränskontroll, hälso- och sjukvård eller rättsliga beslut.

• Säker och etisk utveckling: Utvecklare måste utforma AI med säkerhet, transparens och etik i centrum, inte som en eftertanke. Distributörer måste överväga användningssammanhanget och potentiella skador och omfattas av samma säkerhets- och etiska principer som utvecklare. Oberoende testning och adekvat riskbedömning måste krävas före distribution och under hela livscykeln.
• Förvaltning: Regeringar, företag och andra bör inte använda AI som vapen för någon form av dominans, olagliga aggressionskrig, tvång, manipulation, social poängsättning eller omotiverad massövervakning.

• Ansvarsfull design: AI bör utformas och utvärderas oberoende för att undvika oavsiktliga och katastrofala effekter på människor och samhälle, till exempel genom design som ger upphov till bedrägeri, vanföreställning, missbruk eller förlust av autonomi.

• Inget AI-monopol: fördelarna med AI – ekonomiska, medicinska, vetenskapliga, sociala – bör inte monopoliseras.

• Ingen mänsklig devalvering: utformning och distribution av AI bör få människor att blomstra i sina valda sysslor, inte göra mänskligheten överflödig, berövad, devalverad eller utbytbar.

• Ekologiskt ansvar: vår användning av AI får inte äventyra vår planet och våra ekosystem. Dess enorma krav på energi, vatten och sällsynta mineraler måste hanteras ansvarsfullt och hållbart genom hela försörjningskedjan.

• Ingen oansvarig global konkurrens: Vi måste undvika en oansvarig kapplöpning mellan företag och länder mot alltmer kraftfull AI.

Att upprätthålla dessa principer kommer inte att bli lätt. Det kräver moraliskt mod, meningsfulla mekanismer för ansvarsskyldighet, framsynt ledarskap från alla samhällssektorer och ett bindande internationellt fördrag som fastställer gränser och en oberoende tillsynsinstitution med verkställighetsbefogenheter. Vi efterlyser därför moraliskt ledarskap i AI:s tidsålder. Eftersom farorna med AI ofta är indirekta uppmanar vi forskare, civilsamhället och rättighetsgrupper samt andra intressenter att göra en större insats för att formulera – och förstärka allmänhetens medvetenhet om – AI:s begränsningar och faror. Vi uppmanar forskare, ledare inom teknikbranschen och beslutsfattare att lyssna på datamedarbetarnas röster, erfarenheter och forskning, från de samhällen och människor som upplever kostnaderna (på den materiella sidan) av AI, och att fokusera sitt arbete på att skydda och gynna de mest utsatta.

Eftersom legitimiteten hos moraliska och juridiska regler i ett samhälle beror på hur det behandlar sina mest utsatta människor. Vi vädjar också till forskare, civilsamhällets grupper och oberoende revisorer att utveckla och föreslå nya mål och mätvärden för att utbilda, optimera och utvärdera inlärningsalgoritmer när det gäller sanningsenlighet, balans och mänskligt väl, under hela livscykeln, inte bara uppgiftsprestation och engagemang.

Vi uppmuntrar beslutsfattare, ledare inom teknikindustrin och globala samhällen att samarbeta för att utveckla omfattande ramverk för styrning av AI som tjänar allmänhetens bästa. Detta inkluderar människors rätt att leva fria från AI. Framsteg för äkta mänskligt broderskap i tidsåldern av artificiell intelligens kräver att universella etiska och rättsliga standarder fastställs.

Slutligen vädjar vi till alla personer med goda avsikter: låt oss förena oss för att säkerställa att AI tjänar hela mänskligheten snarare än ett fåtal.

Genom att samlas över nationer, kulturer och trosuppfattningar, och prioritera dialog över konkurrens, kan vi forma en framtid som höjer mänsklig värdighet och främjar en mer rättvis och fredlig värld.

Vi uppmanar alla intressenter – inklusive medborgare, forskare, företagsledare, trosledare, företrädare för samhället och beslutsfattare – att delta i detta initiativ. Tillsammans upprepar vi den grundläggande principen att maskiner ska tjäna mänsklighetens intressen.