ישראל מקדמת הסדרה ופיקוח בנושא הבינה המלאכותית (AI), ובקרוב הממשלה תדון במודל חדש להתמודדות עם הסכנות שגלומות בטכנולוגיה העוצמתית הזו. ל-tech12 נודע כי אחת היוזמות החדשות היא להקים "מוקד ידע" ממשלתי לנושא ה-AI, שיתאם בין משרדי הממשלה וינחה אותם, כשהם יהיו אלה שיקבעו את הרגולציה על ה-AI כל אחד בתחומו. מדובר בהעדפה של "רגולציה סקטוריאלית" על פני "רגולציה רוחבית" כמו שנקבעה באיחוד האירופי.

מוקד הידע המסתמן הוא למעשה מעין "רגולטור-על" לנושא בינה מלאכותית. הוא ירכז בתוכו את כל המומחיות והחדשנות בתחום ה-AI ויוכל להציג למשרדי הממשלה את חזית ההתפתחויות בתחום, יתאם ביניהם את תחומי האחריות וימליץ על צעדי הרגולציה הנדרשים כולל חקיקה. מבנה המוקד ומי יועסק בו – אלה שאלות שעדיין לא הוכרעו.

"ראש סדר העדיפויות"

באוקטובר 2022 הממשלה פרסמה להערות הציבור מסמך בשם "עקרונות מדיניות רגולציה ואתיקה בתחום הבינה המלאכותית". המסמך התפרסם ביחד עם עיקרי מדיניות שרת החדשנות והמדע אז, אורית פרקש הכהן. הוא גובש בעבודה משותפת של משרד החדשנות והמדע, מחלקת ייעוץ וחקיקה (משפט כלכלי) במשרד המשפטים ורשות החדשנות, ובהיוועצות עם ראשי חברות שמפתחות AI בישראל, בהם פרופ' אמנון שעשוע מנכ"ל מובילאיי ופרופ' יוסי מטיאס, מנכ"ל מרכז המו"פ של גוגל בישראל. בסדרה של דיונים וימי עיון לציבור שנערכו מאז, נשמעה ביקורת כי ההמלצות רכות מדי, מהוות קווים מנחים בלבד, וממוקד ברגולציה עצמית במקום בפיקוח רגולטורי תקיף.

AI21 (צילום: ליאור מוזס, יחצ)
משרדי AI21 בישראל (למצולמים אין קשר). לא צפויה רגולציה על הפיתוח הטכנולוגי|צילום: ליאור מוזס, יחצ

מאז מונה שר חדש לחדשנות ומדע - השר אופיר אקוניס – וכעת נודע כי המשרד מקדם את הדיונים לקו הסיום, לאישור סופי והבאה לאישור הממשלה. "אנחנו משקיעים בזה הרבה מאמצים ויהיו עוד צעדים", אומרת הדסה גטשטיין, ראש מטה המנכ"ל גדי אריאלי ומי שמנהלת את תחום הבינה המלאכותית במשרד בשיחה עם tech12. "אנחנו מתכוונים לסיים את העבודה על המסמך כמה שיותר מהר, אחרי שנטמיע את ההערות שקיבלנו. זה שיתוף פעולה רחב של כמה משרדים, עם שיתוף הציבור ועם האקדמיה".

המסמך החדש - "המלצות מדיניות הרגולציה והאתיקה בפיתוח ובשימוש במערכות מבוססות בינה מלאכותית" - צפוי להיות מוגש בשבועות הקרובים וזמן קצר לאחר מכן גם יפורסם לציבור. דוברת המשרד אומרת שנושא הבינה המלאכותית עומד בראש סדר העדיפות של השר אקוניס, ש"הורה לתכלל עבודת מטה יסודית בנושא על מנת לקדם את ישראל גם בתחום הזה". הדוברת מציינת כי בהחלטת ממשלה 212 בעניין "קידום חדשנות, עידוד צמיחת ענף ההייטק וחיזוק המובילות הטכנולוגית והמדעית" הוטל על משרד החדשנות והמדע להוביל את מדיניות הממשלה בנושא. "ועדת שרים למדע וטכנולוגיה בראשות השר אופיר אקוניס תתכנס בהקדם, ועל סדר יומה: עיקרי התוכנית הממשלתית בנושא בינה מלאכותית ודיון בנושא רגולציה ממשלתית".

המסמך הסופי יתאר שבעה אתגרים בתחום הפיקוח על AI וינחה את משרדי הממשלה לבחון מה רלוונטי לתחומים שהם מפקחים עליהם

תהליך ההתייעצות עם הציבור לא הביא לשינויים מרחיקי לכת בעמדת הממשלה לגבי החלת רגולציה על AI, אבל חידד מספר נקודות. כך למשל הוא עוסק כעת ברגולציה על בינה מלאכותית גנרטיבית, מושג שלא היה קיים כשהתפרסם המסמך המקורי. הוא שם דגש על התמודדות מול שימוש ב-AI ככלי להונאות ולהסתה, על שימושים שעלולים לפגוע בשוויון כמו AI בתחום קבלת עובדים לעבודה ועל ניהול סיכונים הכרוכים ב-AI.

"מטא-רגולציה"

משרד החדשנות והמדע נמצא בחזית הציבורית, אבל מאחורי הקלעים מי שנותן את הטון הוא משרד המשפטים. הצוות התחבט בשאלה אם נדרשת רגולציה רוחבית וקשוחה כמו החקיקה האירופאית (EUAI) שאושרה לאחרונה, והחליט על כיוון אחר: "מטא-רגולציה". המסמך הסופי יתאר שבעה אתגרים בתחום הפיקוח על AI וינחה את משרדי הממשלה לבחון מה רלוונטי לתחומים שהם מפקחים עליהם.

אמנון שעשוע, נשיא ומנכ
אמנון שעשוע, מנכ"ל מובילאיי. היה בצוות המייעץ |צילום: נאסד"ק, יחצ

כך למשל, משרד הבריאות יהיה זה שידרוש מחברות שמשלבות AI בטכנולוגיה שלהן לעמוד במחוייבויות להגינות ול"הסבריות" ומשרד התחבורה יהיה זה שימצא דרך לוודא שה-AI של חברות נהיגה אוטונומית לא גורמת לתאונות דרכים, כפי שהתברר במקרה של טסלה בארה"ב. האם במשרד התחבורה יש אנשי טכנולוגיה ואתיקה שיכולים לייצר את הדרישות האלה מחברות הרכב? בשביל זה מוקם מוקד הידע, שיתמוך באנשי משרד התחבורה בגיבוש הרגולציה. במקרים של משרדי ממשלה שלא יהיו ערים לבעיות בתחומי ה-AI שבאחריותם, מוקד הידע ידרבן אותם לפעולה.

הגישה הסקטוריאלית מאפשרת לרגולטורים להתייחס לשימושים ב-AI (למשל בתחבורה או בבריאות) ולא ליכולות של ה-AI - יכולות שהרבה יותר קשה לפקח עליהן או אפילו לאמוד אותן. בהעדפת הגישה הזו הובאה גם בחשבון העובדה שחברות ישראליות שמפתחות AI ממילא מוכוונות לשווקים באירופה, ארה"ב או אסיה ולכן יהיו כפופות לרגולציה שתהיה בשווקים אלה. במשרד המשפטים מניחים שישראל היא שחקן קטן, והרגולציה שתיקבע בה לא ממש תשפיע על העולם.

מאיר לוין, המשנה ליועמ"שית (כלכלי): "ייתכן בהחלט שרגולטורים בתחום מסוים, כמו הרגולציה הפיננסית, ינקטו גישה זהירה יותר לעומת רגולטורים אחרים, בהתאם לסיכונים הקונקרטיים שהם מזהים"

עם זה קיימת סכנה הפוכה – שחברות שלא יכולות לפתח AI באירופה בגלל הרגולציה המחמירה, יפתחו מרכז פיתוח בישראל לכלי AI מפוקפקים. במשרד הבהירו שהרגולציה המתוכננת לא תאפשר להפוך את ישראל ל"חצר האחורית" של עולם ה-AI.

בתשובה לפניית tech12 אמר מאיר לוין, המשנה ליועצת המשפטית לממשלה (משפט כלכלי): "בשלב זה מוצע למקבלי ההחלטות על ידי הצוות המקצועי לבחור בגישה של רגולציה סקטוריאלית, כך שכל רגולטור יסדיר את שימושי הבינה המלאכותית בתחומו בהתאם לאתגרים המתעוררים אצלו. 'בינה מלאכותית' היא שם רחב לשימושים מגוונים, שחלקם עדיין לא ידועים לנו. ייתכן בהחלט שרגולטורים בתחום מסוים, כמו הרגולציה הפיננסית, ינקטו גישה זהירה יותר לעומת רגולטורים אחרים, בהתאם לסיכונים הקונקרטיים שהם מזהים. הכל, תחת ההנחה כי המדובר בעניין שמחייב מעקב צמוד, והחלטות מדיניות נדרשות בהתאם לצורך.

"כצעד משלים להצעה העקרונית להשתמש ברגולציה סקטוריאלית, וכדי לצמצם סתירות, חפיפות או חוסרים ברגולציה בעקבות האסדרה על ידי רגולטורים שונים – הוחלט על הקמת מוקד ידע ממשלתי, שנועד לסייע לרגולטורים הרלוונטיים בגיבוש הרגולציה, לתאם ביניהם ולהיות אחראי להניח בפני מקבלי ההחלטות הצעות מדיניות ממשלתית כוללת בהקשרי רגולציה של בינה מלאכותית. מוקד הידע יאפשר לממשלה לעקוב אחר ההתפתחויות בעולם ובמידת הצורך להמליץ על היבטים מסויימים בהם נדרשת רגולציה רוחבית, וביתר שאת, בשים לב להתפתחויות מהעת האחרונה בתחום ה-Generative AI".