סוף הרבעון הראשון של שנת 25′, ולא נראה שעומד להירגע הבאזז סביב בינה מלאכותית (Artificial Intelligence, AI) והאפליקציות העסקיות שלה. שנת 24′ הייתה שנה המפנה באימוץ הנרחב של מערכות AI בציבור הרחב ובפעילות העסקית של החברות. אז – אם אנחנו רוצים להבין את מצב הטמעת ה-AI אצל חברות, ולוודא שהן עושות זאת באופן אחראי, איפה אנחנו יכולים לקרוא על כך?
מזל שיש דוח אחריות. או יותר נכון – דוח אחריות תאגידית.
דוח אחד, שבו חברות מדווחות לכלל בעלי העניין שלהן על ההתנהלות האחראית שלהן, כיצד הן פועלות למזער סיכונים ולהבטיח רווחים לאורך זמן.
במסגרת כך הן בוחנות את הנושאים המהותיים להן ומדווחות על הביצועים בהם למחזיקי עניין שונים, משלוש זוויות שונות (E,S,G) – אחריות בניהול (ממשל תאגידי תקין ואתי – Governance), אחריות חברתית (Social) ואחריות סביבתית (Environment).
94% מהמשקיעים עושים שימוש בדירוגי ESG לקבלת החלטות השקעה, תקנים ורגולציות חדשות מהווים חשיפה הולכת וגוברת לחברות, ויותר עובדים ולקוחות מעוניינים בחברות שמתנהלות בצורה אחראית, תוך התחשבות בכלל בעלי העניין שלהם. לחברות עם פעילות גלובלית ESG הפך להיות “MUST HAVE”.
עם התפתחות טכנולוגיית הבינה המלאכותית, הולך וגדל מספר החברות שמעוניינות להטמיע מערכות AI בפעילותן, ולייעל הליכים. הטמעת מערכות AI מביאה עמה סיכונים חדשים בפני חברות, שחלקם מתקשר ישירות לסיכוני ה-ESG השונים. בעוד בדוח הכספי נדרשות חברות לדיווח סיכונים רק אם הן יודעות לכמת ולהעריך אותם פיננסית, דוחות ה-ESG כוללים התייחסות לסיכונים שונים (שרק בשנים האחרונות התחדדה ההכרה במהותיות הפיננסית שלהם), שנמצאים בשלבי בשלות שונים. לכן, אנו רואים לאחרונה (וצפויים לראות השנה אף יותר) את דוחות ה-ESG כוללים גם גילויים לגבי סיכוני ה-AI.
בעתיד אגב, דוחות ה-ESG צפויים להוות חלק מהדוחות הכספיים השנתיים, אבל עד אז – זו הכתובת שלנו להבנת התנהלות אחראית של חברות, גם בנושא AI.
להלן נבחן את הממשקים של הטמעת AI עם סיכוני ה-ESG ועם תקני הדיווח, וכיצד אלו מדווחים כיום – וצפויים להיות מדווחים בעתיד הנראה לעין.
סיכוני ה-E
פליטות גזי החממה – והמדרך הפחמני של חברות – הפך בשנים האחרונות לנושא מהותי כמעט לכל חברה, עקב ההחמרה בשינויי האקלים. רגולציות ודירוגי ה-ESG כוללים התייחסות לכך, ללא קשר לסקטור בו פועלת החברה. מערכות ה-AI דורשות צריכת אנרגיה רבה יותר, וזאת בשל עיבוד הנתונים המסיבי, הרצת המודלים המורכבים והגדולים, וקירור מרכזי הנתונים.
צריכת האנרגיה תשפיע גם על חברות שלהן באופן מסורתי מדרך פחמני יחסית נמוך לתעשיות אחרות. חברות טכנולוגיה, למשל, צפויות לעשות שימוש גובר במערכות AI – מה שיוביל לצריכת אנרגיה גבוהה במרכזי הנתונים של אותן חברות. כבר כיום ניתן לראות בחברות הטכנולוגיה המובילות בעולם התייחסות לרכישת אנרגיה מתחדשת למרכזי הנתונים, מעקב אחר צריכת האנרגיה ממערכות AI ושימת דגש על קוד “ירוק”.
כך למשל, אמדוקס מדווחת על דשבורד הנהלה שעוקב אחר ניצול ועלויות אנרגיה כתוצאה משימוש AI.
SAP דיווחה על העברת 100% ממרכזי הנתונים שלה לאנרגיה מתחדשת, והיא מאפשרת למשתמשים בתוכנות שלה מעקב אחר פליטות גזי החממה שלהם כתוצאה מהשימוש באותן תוכנות.
סיכוני ה-S
בקרב רוב המוסדות הפיננסיים בישראל, נושאי ההכללה הפיננסית, הוגנות והגינות מול לקוחות, אפלייה ונגישות שירותים מהווים נושאים מהותיים בדיווח. למוסדות אלו אחריות גדולה על זרימת ההון במשק, והם מפוקחים על ידי הפיקוח על הבנקים ורשות שוק ההון.
הרגולטורים הללו מפקחים גם בהקשרים אלו, והפיקוח על הבנקים אף מגדיר כאחד מיעדיו האסטרטגיים – “הטמעת תרבות הוגנת כלפי הלקוחות, מכלילה ומשפיעה“. לראייה, מצ”ב ההתייחסות של הבנקים החברים במדד ת”א-5 לנושא, במסגרת נושאי ה-ESG המהותיים שלהם :
| הפועלים | לאומי | דיסקונט | מזרחי | בינלאומי | |
| הכלה והכללה פיננסית | הכללה פיננסית ונגישות לשירותים בנקאיים | אתיקה עסקית והוגנות כלפי לקוחות | הכלה פיננסית | הכלה פיננסית ונגישות לשירותי הבנק | הכללה פיננסית ונגישות לשירותים |
| סיכוני ESG/הוגנות | שירות הוגן ואחראי | פעילות בת-קיימה | ניהול סיכוני ESG | שירות אחראי, שקוף והוגן | שקיפות והוגנות במוצרים ושירותים |
מערכות AI עלולה להוות סיכון עבור כל נושאי ה-ESG המהותיים הללו: מערכות אלו פועלות על סמך המידע שהוזן להן, והנתונים עצמם עלולים להכיל הטיות, בין אם במכוון או שלא. אם מטמיעים מערכות לקבלת החלטות על מתן אשראי, למשל (כפי שעסק בהרחבה דוח הצוות הבין-משרדי לבחינת השימוש בבינה מלאכותית בסקטור הפיננסי), הטיות אלו בעצם עלולות להשתכפל, להפלות בני אדם המשתייכים לקבוצות מסוימות שלא על בסיס מוצדק, ולפגוע בנגישות לשירותים פיננסיים (=ההכלה הפיננסית). בנוסף, בהיבטים אתיים, ישנו חשש שהמערכות יעשו שימוש אסור במאפיינים מסוימים לצורך זיהוי קבוצות חברתיות מסוימות, מה שעלול ליצור תוצאות מפלות או להעמיק פערים חברתיים קיימים.
גם חברות התוכנה שמות דגש רב גם על ההיבטים האתיים של שימושי AI. סיילספורס מפרסמת בדוח ה-ESG שלה שהקימה קבוצת עבודה לשימוש אתי והומני ב-AI, הן בתוך החברה, בעת פיתוח תוכנות, והן בשימוש התוכנות שלה על ידי לקוחותיה. זאת, לצד פרסום מדיניות, קווים מנחים והקמת צוותים מיוחדים לשימוש אתי כחלק מהליך הפיתוח, תוך התייעצות במועצת מומחים.
מייקרוסופט אף הגדילה לפתח את Fairlearn, כלי קוד פתוח המאפשר למפתחים לזהות ולהפחית הטיות במערכות AI.
מכיוון שמידת ההוגנות של החלטות מערכות ה-AI תלויה באופן ישיר באיכות ובמגוון של המידע המשמש לאימון שלהן, המפתח למניעת אפליה טמון בארבעה גורמים מרכזיים הקשורים למידע:
- מהימנות הנתונים
- איכותם
- רמת הדיוק שלהם
- נגישותם
בבואנו לדווח, או לבחון דיווח של ארגונים המטמיעים מערכות AI, נידרש להתייחס למשאבים המושקעים בניהול ובקרת איכות הנתונים, תוך שימת דגש מיוחד על זיהוי וטיפול בפערים או הטיות אפשריות במאגרי המידע המשמשים לאימון המערכות ובפלט שלהן.
סיכוני ה-G
בנוסף לכלל הסיכונים שסקרנו לעיל, הצורך בממשל תאגידי תקין מקבל משנה תוקף בכל הקשור ל-AI. כאן נדרשת הקפדה יתרה על מה חברה מתירה לעצמה ולעובדיה בעת שימוש במערכות AI ציבוריות, וכיצד היא נוהגת בעת פיתוח מערכות פנימיות: שמירה על פרטיות הנתונים, מניעת פרצות אבטחת מידע וכו’. מכיוון שמדובר במניע סיכון חדש – ויש היגידו, סיכון חדש בפני עצמו – נדרש לנהלו באופן מוסדר ובהתאם למתודולוגיות ניהול סיכונים ארגוניות, דוגמת ה-COSO, ובהתאם למתודולוגיות ספציפיות לניהול סיכוני AI. חלוקת אחריות, בעלי תפקידים מוגדרים, שגרות דיווח ומעורבות הנהלה ודירקטוריון נדרשים גם כאן. כל זאת, תוך שמירה על ההיבטים האתיים בפעילות העסקית של המערכות, ועמידה בקוד האתי – המצפן הערכי שהארגון הציב לעצמו. חלק מהחברות, דוגמת Dayforce, אף קבעו עקרונות אתיים ספציפית ל-AI, המשיקים או מוסיפים לקוד האתי.
לבסוף, נרצה להבין האם החברות פועלות באופן ציבורי לקידום פיתוח אחראי של AI, כפי שחברת Servicenow מדווחת: דרך יוזמות, קידום ו/או תגובה לחקיקה וקבוצות עבודה.
כיצד לדווח?
מבחינת אופן הדיווח, הרי שכיום אין התייחסות קונקרטית בתקני הדיווח השונים לנושא ה-AI לכשעצמו. עם זאת, תקני ה-IFRS להטמעת ESG בדוחות הכספיים (ה-ISSB) דורשים דיווח המבוסס על הערכת סיכוני ESG, ולא מכווינים לנושאים ספציפיים לדיווח – ולכן נצפה לראות את הנושא מדווח בחברות שהנושא מהותי עבורן.
בעתיד תיתכן גם השפעה על אופן הדיווח מרגולציה דוגמת חקיקת ה-AI של ה-EU. עד אז, הדיווח צריך להתמקד בממשק עם הנושאים והסיכונים השונים שסקרנו לעיל, תוך שימוש במטריקות קיימות בתקני הדיווח הקיימים:
| סביבה | חברה | ממשל תאגידי |
| GRI 302: Energy, ESRS E1-5GRI 305: Emissions, ESRS E1-6 | GRI 418: Customer Privacy, ESRS S4-3, SASB TC-SI-220, TC-SI-230 | ESRS G1 (Business Conduct) |
לסיכום, בחודשים הקרובים צפויים להתפרסם דוחות ה-ESG לשנת 24′ של חברות רבות בישראל. בעתיד הם צפויים להיות חלק מהדוח הכספי השנתי של כל חברה, אבל עד אז – זו הכתובת שלכם להבנת ההתנהלות האחראית של חברות, גם בהקשרי AI.