גילוי נאות: טור זה נכתב (כנראה) על ידי אדם בשר ודם

מזה כחודשיים גולשי האינטרנט סוערים על CNET. אתר הטכנולוגיה הגדול בעולם נתפס עם המכנסיים למטה כשהתגלה שפרסם כתבות שיוצרו על ידי בינה מלאכותית והסתיר זאת מקוראיו ואף מעובדיו.

הכתבות נחתמו על ידי "CNET Money Staff" ולא צוין כי מאחורי הקלעים הכתבות נכתבו בעזרת מכונה. הפרשה התפוצצה לאחר שבזו אחר זו החלו להתגלות טעויות בכתבות שפורסמו באתר - מה שהביא בסופו של דבר את מנהליו להודות על השימוש שעשה בבינה מלאכותית ולהתנצל על השגיאות שנמצאו בפרסומים.

האמת היא, ש-CNET אינו אתר החדשות הראשון להשתמש בבינה מלאכותית לצורך כתיבת תוכן. עוד ב-2016 ה-Washington Post היוקרתי פרסם כי החל להשתמש בכלי בינה מלאכותית בשם Heliograph, כדי לסייע בסיקור האולימפיאדה בברזיל. אלא שאז הדבר לווה בגילוי נאות לכך שמקור הכתבות הוא מכונה.

כשברקע קטר ה-ChatGPT דוהר קדימה וטכנולוגיית ה-GenerativeAI, שבבסיסו, משתלטת במהרה על עולמות הכתיבה והתוכן, הסטנדרט הכפול שמגלים גופי חדשות וכלי תקשורת ביחס לשימוש בבינה מלאכותית מעורר דאגה ומדגיש את הצורך בקביעת קווים מנחים וכללי אתיקה מקצועיים לשימוש בכלי הטכנולוגי.

אם היו שואלים אותי לפני כמה שנים אם מחשב מסוגל לכתוב תוכן באופן יצירתי ללא מגע יד אדם, הייתי חושב שמדובר בהזיה. אלא שבשנים האחרונות החלום הפך למציאות. טכנולוגיית הבינה המלאכותית בתחום השפה והתוכן המכונה Generative AI מתפתחות בקצב מהיר, והפכה לאחרונה ל- Buzzword בתעשייה המתייחס לכלים הפופולאריים, כמו ChatGPT של חברת OpenAI או Wordtune Spices של AI21 Labs הישראלית.

ייחודיות הטכנולוגיה מתבטאת בכך שהיא מייצרת תוכן איכותי באופן עצמאי. כך, למשל, האיור למעלה נוצר על ידי מודל בינה מלאכותית של חברת Midjourney שהזנתי לו את ההנחיה: "Cartoon. Writer writing on a computer. Robot whispering in his ear".

המודל ידע לקחת את ההנחיה ולייצר ציור "יש מאין". ניתן לשים לב לחתימה קטנה בצד ימין למטה שמוסיפה להטעיה שמדובר בציור "אמיתי". באופן דומה, ניתן להנחות מודלים לייצר תוכן טקסטואלי כמו כתבות עיתונאיות, מסמכי עבודה רשמיים, סיפורים או שירים. מדובר בלא פחות ממהפכת תוכן. היא שידרגה באופן משמעותי טכנולוגיות עבר (למשל, את Heliograph של Washington Post), כך שבמקום לייצר תוכן על ידי התחקות אחר חוקיות מסוימת ומבנה מוגדר מראש (למשל, כתבה בתבנית קבועה המבוססת על תוצאות משחקי ספורט), הטכנולוגיה החדשה יודעת להפיק תוכן מתוחכם, מגוון ויצירתי, ממש כאילו נכתבה מעשה יד אדם.

הטכנולוגיה המכונה GenerativeAI מאפשרת לייצר תוכן מורכב ויצירתי, שקשה מאוד להבחין שאיננו אנושי. כשבוחנים זאת דרך משקפיים עיתונאיות, מדובר במאפיין שניתן בקלות לנצל אותו לרעה. דמיינו צבא של בוטים שמפרסמים כתבות שקריות ומגיבים זה לזה באופן שנראה אנושי לחלוטין. זאת עשויה להיות מכה אנושה לאמון בעיתונות הכתובה. הטכנולוגיה גם עלולה לייצר תוכן שקרי מבלי שהמשתמש התכוון לכך.

ב-Tweet שהפך וויראלי דוקטור אלי דייוויד פרסם את השיחה הבאה עם ChatGPT:

על אף שלא ברור אם מדובר בדוגמה אמיתית, היא מבטאת את אחת החולשות המרכזיות בטכנולוגיה הזו - יש לה נטיה להזות (hallucinate בשפה המקצועית). הדבר מתבטא בטעויות שהמודל מבצע תוך שכנוע עמוק שהוא צודק, כך שקשה לעיתים לחשוף את הטעות. ישנן מספר סיבות ל"הזיות" של המודל, אך אחת מהן היא העובדה שהמודל "קפוא בזמן", כלומר הוא מודע למציאות כפי שהייתה עד היום בו הסתיים האימון שלו. לדוגמה, אם תשאלו היום מודל שאומן ב-2020 מי נשיא ארה"ב הוא יענה "דונלד טראמפ".

ההזיות של המודל וחוסר העדכניות שלו ברי פיתרון והן סוגיות שחברות בינה מלאכותית מתמקדות בהן. ברור שכדי להשמיש את הכלים הללו צריך להיות מסוגלים להסביר את התוצאות ולסמוך על אמינותן. אחד מהלקוחות, חברת מדיה בינלאומית גדולה שהחלה להשתמש במודלים גנרטיביים כדי לייצר טיוטות ראשוניות לכתבות, שיתף שעל אף שחסך זמן בכתיבת הכתבות, נאלץ להשקיע זמן רב באימות העובדות שהמודל יצר. דוגמה מרשימה לפתרון הבעיה, הוא Wordtune Spices, כלי לסיוע בכתיבת טקסטים על ידי השלמת משפטים, ומוסיף הפניה למקורות שהשתמש בהם עבור יצירת הטקסט.

עם כל זאת, עבור העיתונות מדובר בכלי רב עוצמה בעל פוטנציאל רב שיש לו צדדים חיוביים. כבר היום, חברות משתמשות בטכנולוגית GenerativeAI כדי לייצר בלוגים ותוכן מארקטיאלי. הוא שאינו מצריך ידע עדכני או או מחקר מעמיק. במקום להשתמש בפרילנסרים לכתיבת תוכן שמטרתו העיקרית להגדיל חשיפה וקליקים, ניתן לייצר תוכן בלחיצת כפתור ובשבריר מהמחיר. עם זאת, עם הפרוליפרציה של הטכנולוגיה ואימוצה על ידי כלל השחקנים בתעשית המדיה, כמו בתעשיות נוספות, ייתכן שתוכן מסוג כזה יהפוך ל-table stakes וכבר לא יהווה יתרון. מעבר לכך, עם המהפכה בתחום החיפוש שמונעת גם היא על ידי טכנולוגיית GenerativeAI, ייתכן מאוד שהתחום יעלם כליל מהעולם (את התשובות עבור מרבית השאלות אוכל לקבל ישירות ממנוע החיפוש).

כך או כך, היתרון העיקרי בשימוש בטכנולוגיה הזו הוא בהעצמת הכותבים, ולא בהחלפתם. הבינה המלאכותית יכולה לסייע לעיתונאים לכל אורך כל תהליך הכתיבה, החל ממציאת הרעיון לכתבה, סיוע במציאת ניסוח, תוך שימוש בסגנון השפה המתאים ובמסר המדויק. האפשרויות שמעמידה הטכנולוגיה לכותבים רבות: מגיבוש טיוטה ראשונית, דרך קבלת מתן טיפים לשיפור הטקסט וכלה בניסוח סופי המותאם לקהלי יעד (hyper-personalization). אם הסבר זה נראה מסובך מדיי, ניתן להשוות את התהליך שמובילה טכנולוגיית הבינה המלאכותית בתחום כתיבת התוכן למתמטיקאים והמצאת המחשבון: ביום אחד הפכה ארימתטיקה לפעולה פשוטה ומתמטיקאים התפנו לעסוק בדברים אחרים (וכנראה מעניינים יותר).

יתרון נוסף שמייצרת מערכות הבינה המלאכותית בתחום השפה היא האפשרות לייצר תוכן חדש. Buzzfeed, למשל, החלו לאמץ מודלים ג'נרטיביים כדי לייצר שאלונים אינטרקטיביים לגולשים. עבור יום האהבה, לדוגמא, הם הוציאו שאלון שמטרתו לעזור למשתמש לכתוב מכתב פרידה. ברוח זו, עיתונאים יוכלו "לשחק" עם הטכנולוגיה כך שתסייע להם לכתוב טקסטים מסוגים שונים: כתבות חדשותיות (ניוז), מאמרי דעה ופובליציסטיקה ואפילו כותרות אטקרטיביות.

ראשית, שקיפות ואחריות הן מילות מפתח. חשוב לשקף למשתמשים שתוכן יוצר בעזרת או על ידי בינה מלאכותית. מכיוון שהטכנולוגיה לא חפה מטעויות והטיות אינהרנטיות, חשוב שכותבי תוכן, במיוחד עיתונאים ועורכים, יעברו על הטקסט לפני פרסומו ברבים. אסור להתפתות לאוטומציה מלאה. שנית, מומלץ להתמקד ביצירת כלים המעצימים את כוח העבודה אך בשום אופן לא מחליפים את הכותב האנושי. כבר כיום התעשייה מספקת כלים, ממנפים נכסים קיימים ושמנצלים את היתרונות הייחודיים של הכותבים מחד ומביאים לידי ביטוי את יתרונות הטכנולוגיה, מאידך.

הטכנולוגיה כבר כאן - וכאן כדי להישאר. כא כדאי להתעלם ממנה, היא טומנת בחובה סיכון מצד אחד ופוטנציאל מצד שני. אופן השימוש על ידי משתמשי הקצה הוא זה שיקבע איזה מהצדדים יגבר. נראה ברור שתעשיית המדיה, כמי שצורכת ומייצרת תוכן במהותה, תהיה אחת הראשונות שתושפע מהטכנולוגיה החדשה. תעשיות שידעו לאמץ את הטכנולוגיה באופן חכם והוגן יזכו ליתרון משמעותי, ובעיקר יספקו לציבור תכנים איכותיים ומהימנים.

הכותב הוא מנהל פיתוח עסקי ואחראי תחום מדיה בחברת AI21 Labs.