אחווה בעידן הבינה המלאכותית

גרסה בעברית (זמינה גם בשפות العربية-الإمارات, Deutsch, English, Español‑España, Français‑Canada, Français, हिन्दी-भारत, Italiano, 日本語, 한국어, Português‑Brasil,Magyar, Svenska, 简体中文)

אנו, פורום עצמאי המורכב ממומחים, מנהיגים בתעשיית הטכנולוגיה, מנהיגי דעה וחוקרים ממגוון מדינות, רקעים ואמונות, מתוך רצון עמוק לבנות עתיד שבו בני אדם מעצבים את החברה ואת קבלת ההחלטות, קוראים לפעול למען עתיד שבו בינה מלאכותית תפותח בצורה אחראית על ידי אנשים ולמענם.

הבחירות שאנו עושים כיום לגבי בינה מלאכותית יעצבו באופן מהותי את העולם שנשאיר אחרינו לדורות הבאים. הבינה המלאכותית גורמת כבר היום נזק משמעותי, מרחיבה פערי אי-שוויון, מרכזת כוח בידיהם של מעטים ופוגעת בסביבה. סכומים עצומים, שהולכים וגדלים במהירות, מוקדשים ליצירת טכנולוגיות אגנטיות בעלות פוטנציאל להתעלות מעל הבינה האנושית – מה שרבים בקהילת המחקר של הבינה המלאכותית מכנים “סופר-אינטליגנציה”. אתגרים אלה מחייבים מנהיגות מוסרית ונקיטת פעולה ממשית בדחיפות.

הבינה המלאכותית מביאה עימה הזדמנויות משמעותיות לקידום הגילוי המדעי וההבנה האנושית ההדדית, למהפכה בשירותי הבריאות, לשיפור הפיקוח, ובאופן נרחב יותר, לטיפוח שגשוג בר קיימא ואינקלוסיבי. עם זאת, היא גם מציבה בפנינו סיכונים חמורים כפי שתוארו בדוח המדעי הבין-לאומי בנושא בטיחות בינה מלאכותית, ביניהם אובדן מקומות עבודה, צמצום חירויות הפרט, מלחמות על שליטה, דיסאינפורמציה ומניפולציה, מעקב המונים, השפעות סביבתיות ואיומים על הרווחה האנושית.

כדי לנצל כל הזדמנות לגיטימית ופוטנציאלית תוך צמצום העלויות והסיכונים, חיוני לבסס את היסודות לשגשוג אנושי כמו גם לשרטט גבולות מוגדרים היטב הנובעים מהכרה בכבוד האדם והקהילה, בזכויות אדם וסביבה ובאחריותיות.

ברוח של אחווה, תקווה ושיקול דעת, אנו קוראים לכם כמנהיגים לקיים את העקרונות ולשמר את הקווים האדומים הבאים כדי לטפח דיאלוג ודיון מעמיק בשאלה כיצד הבינה מלאכותית יכולה לשרת בצורה הטובה ביותר את כל
משפחת בני האדם:

• חיים וכבוד אנושי: אסור לפתח בינה מלאכותית או להשתמש בה בדרכים המאיימות, מצמצמות או שוללות את החיים, הכבוד או הזכויות הבסיסיות של בני האנוש. אסור להמעיט בערכה של האינטליגנציה האנושית – היכולת שלנו בכל הנוגע לחוכמה ולהתחשבות בשיקולים מוסריים, כמו גם הנטייה שלנו להעריך את האמת והיופי – לעומת עיבוד מלאכותי, מתוחכם ככל שיהא.

• יש להשתמש בבינה מלאכותית ככלי, לא כסמכות: הבינה המלאכותית חייבת להישאר בשליטת האדם. בניית מערכות בלתי נשלטות או האצלת יתר של קבלת החלטות אינן מקובלות מבחינה מוסרית וחייבות להיות אסורות על פי חוק. בשל כך, יש לאסור פיתוח טכנולוגיות בינה מלאכותית של סופר-אינטליגנציה (כפי שצוין לעיל) עד שיהיה קונצנזוס מדעי נרחב כי הדבר ייעשה באופן בטוח וניתן לשליטה, וכן הסכמה ציבורית חד משמעית ורחבה.

• אחריותיות: רק לבני אדם יש את היכולת לשאת באחריות מוסרית וחוקית ומערכות בינה מלאכותית הן אובייקטים משפטיים, חייבות להישאר כאלה, ולעולם לא להפוך לישויות עצמאיות. האחריות והחבות מוטלות על מפתחים, ספקים, חברות, מפעילים, משתמשים, מוסדות וממשלות. לא ניתן להעניק לבינה מלאכותית אישיות משפטית או “זכויות”.

• החלטות של חיים ומוות: אסור להרשות למערכות בינה מלאכותית לקבל החלטות של חיים או מוות, במיוחד במסגרת שימושים צבאיים במהלך סכסוך שמעורב בו שימוש בכלי נשק או בעת שלום, באכיפת החוק, בבקרת גבולות, בשירותי בריאות או בהחלטות שיפוטיות.

• פיתוח בטוח ואתי: מפתחים חייבים לתכנן מראש את הבינה המלאכותית כשבטיחות, שקיפות ואתיקה עומדות בליבתה, ולא נוספות רק באופן משני לאחר מעשה. מפעילים חייבים לקחת בחשבון את ההקשר של השימוש והנזקים הפוטנציאליים, והם כפופים לאותם עקרונות בטיחות ואתיקה כמו המפתחים. יש לדרוש בדיקות עצמאיות והערכת סיכונים נאותה לפני ההפעלה ולאורך כל מחזור החיים.

• ניהול אחראי: ממשלות, תאגידים וכל גורם אחר אינם רשאים להפוך את הבינה המלאכותית לכלי נשק שישמש לשליטה מכל סוג שהוא, למלחמות תוקפנות בלתי חוקיות, לכפייה, למניפולציה, לדירוג חברתי או למעקב המונים בלתי מוצדק.

• תכנון אחראי: יש לתכנן בינה מלאכותית ולבצע הערכות בלתי תלויות שלה כדי למנוע השפעות לא מכוונות וקטסטרופליות על בני האדם ועל החברה, למשל באמצעות תכנון שפותח פתח להונאה, אשליה, התמכרות או אובדן אוטונומיה.

• אין מונופול על בינה מלאכותית: אין לאיש מונופול על היתרונות של הבינה המלאכותית – כלכליים, רפואיים, מדעיים, חברתיים.

• ללא הפחתה של הערך האנושי: התכנון וההפעלה של הבינה המלאכותית מטרתם לסייע לבני אדם לשגשג בתחומים שבחרו לעסוק בהם, ולא להפוך את האנושות למיותרת, מנושלת, מופחתת ערך או ניתנת להחלפה.

• אחריות אקולוגית: אסור שהשימוש שלנו בבינה מלאכותית יסכן את כדור הארץ ואת המערכות האקולוגיות שלנו. יש לנהל את צרכיה העצומים באנרגיה, מים ומינרלים נדירים באופן אחראי ובר קיימא לאורך כל שרשרת האספקה.

• ללא תחרות עולמית חסרת אחריות: עלינו להימנע ממרוץ חסר אחריות בין תאגידים ומדינות לעבר בינה מלאכותית חזקה יותר ויותר.

לא יהיה קל לקיים עקרונות אלה. הדבר דורש אומץ מוסרי, מנגנוני אחריותיות ממשיים, מנהיגות מרחיקת ראות מכל מגזרי החברה ואמנה בין-לאומית מחייבת הקובעת קווים אדומים ומוסד פיקוח עצמאי עם סמכויות אכיפה. לפיכך אנו קוראים למנהיגות מוסרית בעידן הבינה המלאכותית. מאחר שהסכנות שמציגה הבינה המלאכותית הן לעיתים קרובות עקיפות, אנו קוראים למדענים, לחברה האזרחית ולקבוצות הגנה על זכויות ולבעלי עניין אחרים, לעשות מאמץ גדול יותר כדי להבהיר את המגבלות והסכנות הטמונות בבינה המלאכותית – ולהגביר את המודעות הציבורית אליהן. אנו קוראים למדענים, למנהיגי תעשיית הטכנולוגיה ולקובעי המדיניות להקשיב לקולות, לחוויות ולמחקר של עובדי נתונים, של הקהילות והאנשים שחווים את העלויות (מהצד החומרי) של הבינה המלאכותית ולהתמקד בהגנה על הקבוצות הפגיעות ביותר ובשיפור מצבן. מכיוון שהלגיטימיות של כללים מוסריים וחוקיים בכל חברה תלויה באופן שבו היא מתייחסת לאנשים הפגיעים ביותר בקרבה.

אנו פונים גם למדענים, לקבוצות חברה אזרחית ולמבקרים בלתי תלויים לפתח ולהציע יעדים ומדדים חדשים להכשרה, אופטימיזציה והערכה של אלגוריתמים של למידה מבחינת אמינות, איזון וטובת האנושות, לאורך כל מחזור החיים, לא רק לצורך ביצוע משימות ומעורבות.

אנו מעודדים קובעי מדיניות, מנהיגים בתעשיית הטכנולוגיה וקהילות גלובליות לשתף פעולה בפיתוח מסגרות עבודה מקיפות לפיקוח על בינה מלאכותית באופן המשרת את טובת הכלל. זה כולל את זכותם של בני אדם לחיות ללא בינה מלאכותית. התקדמות האחווה האנושית האמיתית בעידן הבינה המלאכותית דורשת קביעת סטנדרטים אתיים וחוקיים אוניברסליים.

לבסוף, אנו פונים לכל אנשי הרצון הטוב: הבה נתאחד כדי להבטיח שבינה מלאכותית תשרת את כל האנושות ולא רק קבוצה מצומצמת של מעטים.

אם נתאחד מעבר לגבולות של מדינות, תרבויות ואמונות, וניתן עדיפות לדיאלוג על פני תחרות, נוכל לעצב עתיד שמעצים את כבוד האדם ומטפח עולם צודק יותר שניתן לחיות בו בשלום.

אנו קוראים לכל בעלי העניין – כולל אזרחים, מדענים, מנהיגים עסקיים, מנהיגי אמונה, נציגי קהילות וקובעי מדיניות – להשתתף ביוזמה זו. באופן קולקטיבי, אנו שבים ומדגישים את העיקרון המהותי לפיו על המכונות לשרת את האינטרסים של האנושות.