איך הפסקתי לפחד ולמדתי לאהוב את מידג'רני

בסופו של דבר האלגוריתמים של הבינות המלאכותיות  נותנים לנו את עצמנו – לא יותר ולא פחות

לפני כשנתיים שמעתי על האתר "האדם הזה אינו קיים", שמייצר שרשרת אינסופית של דיוקנאות אנושיים פוטוריאליסטיים, ולזמן מה לא הצלחתי לחשוב על שום דבר אחר. אומנם כשמסתגלים ולומדים לזהות את העיוותים האופייניים לרשתות כאלה, העין מתבייתת עליהם כמו שחף רעב, אבל פרט לכך כל אחד מהאנשים המיוצרים האלה נראה אמיתי לחלוטין. האלמנטים הדפוקים הם מסביב: אוזניים, ידיים, אקססוריז, אנשים אחרים או כל דבר אחר שהוא לא ממש פנים. יש משהו מטריד עמוקות בהבנה שבינה מלאכותית יכולה להצטיין כל כך ביצירת פרצוף אנושי משכנע ולדפוק כל כך את כל השאר. והיא באמת ממש טובה בזה. כמובטח בכותרת, אף אחד מהם לא קיים – אבל אם תשאלו את הסיוטים שלי זה פרט טכני בלבד.

בינתיים האתר די נשכח, אבל אני לא הצלחתי לעבור הלאה. האנשים הלא-קיימים רדפו אותי. איזה חלק במוח-הלטאה שלי  היה משוכנע שהאנשים האלה באמת קיימים, לפחות במובן כלשהו. כלומר עד שאני רוצחת אותם. הייתי נכנסת לאתר ומרפרשת ומרפרשת, פרצוף אחר פרצוף, מרגישה כמו אוסקר פאקינג שינדלר: בשבילי זו הקשה אחת על F5, אבל בשבילם אלה חיים שלמים, קיום שלם. ואחרי מספיק הקשות את מתחילה לשאול את עצמך כמה מהם רק דמיינת. האחריות הזאת הייתה כבדה מנשוא. הרגשתי שאני מציצה לתוך הדמיון של אלוהות; שאני נותנת להם רגע אחד בודד באור השמש, וכמעט מיד נוטלת אותו מהם, מאיינת אותם.

הרגשתי את עצמי מתאהבת בהם. אישה בגילי עם שיער אדום קצוץ הביטה ישירות בעיניי והרגשתי שאני מכירה אותה. שהיא קצת מפוכחת מדי. שהיא לא יפה כפי שהייתה פעם אבל זה בסדר כי היא מצאה ערך חדש בעצמה ולמדה איך להיות לבד. ראיתי איש ממושקף מחייך למישהו מאחורי הצלם וקצת מימינו, חיוך שמתאמץ ליצור את הרושם של שמחה נקייה מדאגות, ורציתי לפגוש אותו. ואולי פגשתי אותו. בחתונה או בפאב. חבר של חבר. כל פרט נראה קריטי, הרה משמעות, וכל דיוקן עורר בי תחושה של אינטימיות עמוקה.

לא הצלחתי להבין את התחושה הזאת, והיא הטרידה אותי. בסוף פיתחתי תיאוריה – המפגש הזה באמת היה אינטימי. האנשים האלה לא יתקיימו לעולם. כל חייהם, כל מה שאי פעם יהיו, היה בתמונה הזאת. הם בקעו מהרשת הגנרטיבית בצורתם המוגמרת, עם כל ההשפעות של חוויותיהם וזיכרונותיהם וצלקותיהם הישנות קבורות מאחורי החיוכים שלהם, כמו עולם בריאתני שלם שנברא מראש בגיל 4.5 מיליארד שנה עם כל המאובנים בילט-אין מתחת לפני השטח.

ואני היחידה שאי פעם תפגוש אותם.

אמנית ושמה מידג'

הניסיון הקודם הזה הציל אותי כנראה מאובדן שפיות מוחלט כשקיבלתי הזמנה ל-Midjourney (להלן: מידג'). אומנם את היומיים הראשונים ביליתי בייצור קדחתני של שטויות בפיתה, אבל לפחות חסכתי מעצמי את הזוועה הקיומית המצמיתה של ג'ינרוט מאות בני אדם, בעלי חיים, יצירות אמנות, יצורים מיתיים ונופים של כוכבי לכת רחוקים.

ואולי זה בכלל קשור לנטייה של מידג' ליצור אמנות מופשטת, לעומת היומרות הריאליסטיות של "דאלי 2" (DALL-E 2), שמשהו בהן מזעיק באופן אפקטיבי מדי את מוח הלטאה שלי. כששלחתי הזמנה לאחי הקטן, הוא שחזר כמה מסצנות הפיקניק המפורסמות של רנואר עם דמויות אפריקאיות.

בשלב הזה הבנתי שיש פה פוטנציאל לאמירות משמעותיות יותר על העולם ועל החברה, שהתחבא ממני עד אז מאחורי מסך של שטויות ופריבילגיה – ומכאן נולדו ניסיון כושל להפוך את ביבי לגיבור-על א-לה ג'ק קירבי, וניסיון מוצלח יותר ליצור פוטין-חמוס. לאחר מכן חזרתי בעוונותיי לייצר דובוני מים בברנינג מן וחתולים גלדיאטורים. עבר הרבה יותר מדי זמן לפני שהבחנתי כמה מידג' גרועה בציור אנשים שחורים וחומים, כנראה כי היא אומנה בעיקר על אמנות מערבית.

קפיצת הדרך הבאה ברמת השימוש שלי במידג' התרחשה כשניסיתי לייצר ארט לדמות שלי במבוכים ודרקונים: סטירית קשישה בשם כריזנתמה אבאקוס. עד שמצאתי אותה נדרשו כמה שעות של חידודים ובחירות מאוספים הולכים ומתארכים של וריאציות. וכשזה קרה הרגשתי שאני מכירה אותה טוב יותר: ארטיפקטים שהוסיפה מידג' העניקו לה אופי; אסימטריות קלות שלא ידעתי לבקש העידו על היסטוריה אישית מורכבת; פאקים שונים ומשונים נתנו לה ברק ערמומי בעיניים; צלקות שנאלצתי להסביר. היא נהייתה אמיתית יותר.

האתגר הראשון שלי היה להבין איך צריך לדבר עם מידג' כדי שתיצור משהו שכבר קיים בראש שלי. למדתי להתנסח באופן זהיר ומדויק, אחרי שכשביקשתי "אישה זקנה עם קרני עז", אחת התוצאות הייתה אישה שמחזיקה קרני עז, ואחרת הייתה אישה שהקרניים שלה היו עיזים.

המילוליות של מידג' יכולה להיות מכעיסה לפעמים, אבל אין בה זדון ושום ג'ין או יד קוף מקוללת לא מחפשים את החורים בניסוח שלך. מידג' היא לא עו"ד לענייני חוזים, היא בינה מלאכותית, בוטית שנותנת לך את מה שביקשת, גם אם מה שביקשת אינו מה שרצית. למשל כשביקשתי ממידג' "שחקן מבוכים ודרקונים ישראלי" קיוויתי למשהו נעים ויזואלית, שאולי גם יעורר בי הזדהות קלה. קיבלתי אֵלף פצוע במדים. לא בדיוק מדי צה"ל – יותר כמו משהו שמישהו תפר אחרי שקרא תיאור שכתב מישהו שראה פעם חייל ישראלי חולף ברחוב. האלף נראה כועס. בינינו? בצדק.

נתתי למידג' לרוץ עוד כמה פעמים על אותה התוויה (Prompt) והפצועים המשיכו להגיע – ג'ימבו ג'יי במדים, תֹם אהרון במדים, חרדים במדים. לעיתים הם היו מוקפים ברונות קסומות או ירו ברקים מאצבעותיהם, אבל לרוב לא. בחלק מהפעמים הם רמסו דמויות בלתי מזוהות תחת מגפיהם או נופפו בכלי נשק, פנטסטיים במידה זו או אחרת. בהתחלה צחקתי, אבל אז התפכחות בלתי נעימה תפסה את מקומו של ההומור. למרבה המבוכה, רק בשלב הזה באמת הבנתי כמה פוליטיקה אצורה באלגוריתמים של מידג'. תם עידן החתולים הגלדיאטורים.

דמוקרטיה להמונים

אחת הראשונות שקיבלו ממני הזמנה למידג' הייתה חברתי האנימטורית יעל, שזעקה מיד, "הגם את?" והכריזה שהיא שונאת אותי ולא רוצה שום קשר לזה. לאחר שנרגעה, הסבירה לי שהיא מבואסת ש"החנונים החליטו לתקוף דווקא את החלק שכיף לעשות". שיפתרו קיפול כביסה ואז נדבר, זעמה.

האמת? הבנתי אותה. התאהבתי במידג' כי אני מאוד מתקשה לגרום לצבעים ולצורות לעשות את מה שאני רוצה שיעשו; יעל מתפרנסת מזה. במידה כלשהי אני רואה בוטים גנרטיביים כמו מידג' כמובילי תהליך דמוקרטיזציה – הנגשה של עולם יצירה שלם לאנשים נעדרי כישרון או הכשרה. קחו למשל את הדמות שלי. לפני זה לא הייתי מעזה לחלום על ארט מותאם, תפור למידותיי, שייתן לי להוציא את מה שאני רואה בראש שלי. האופציות שלי היו למצוא בגוגל דמות גנרית שדומה למה שרציתי ולערוך אותה עריכה מעפנה בפוטושופ, או לשלם כמה מאות שקלים לאמן שיצייר לי אותה. סביר מאוד שהייתי בוחרת באופציה הראשונה, כי היא עולה לי רק בְזמן שלי, שהוא כידוע חסר כל ערך. ובכל זאת, אני מבינה למה הדמוקרטיזציה הזאת יכולה להרתיע את מי שהשקיעו שנים בטיפוח כישרון נדיר לרמה שהוא יכול לפרנס אותם.

אבל זה לא חייב להיות ככה. כפי שמתרגמים לא צריכים לחשוש מגוגל טרנסלייט, אין סיבה אמיתית שאנשים שמתפרנסים מאמנות יחושו מאוימים ממידג'. הערך של אמן לחברה הוא שונה לגמרי. האהבה שלנו לאמנים לא נובעת מיכולתם לעקוב אחרי הוראות, אלא מההערכה שלנו לנקודת המבט המיוחדת ולפרשנות שלהם את המציאות. לעומת זאת, האהבה שלנו לבוט נובעת מסקרנות לראות בעיניים חדשות את הדבר שהוא מאומן עליו.

במילים אחרות: רשתות גנרטיביות מייצרות פאנפיקשן על האינטרנט, כמראה מעוותת משהו של עולם בני האדם – והסקרנות כלפיהן היא סוג של נרקיסיזם חולני. יעל האנימטורית הסבירה לי שמבחינתה מדובר בעניין של טעם: הפרשנות של הבוט פשוט לא מעניינת אותה. "אם איזה בוט יקרא בוחטה של ספרים ויעשה מזה איזה מישמש", טענה, זה כנראה לא יעניין אותך כל כך, מעבר לגימיק". כן, יש לבוט ערך מעשי מסוים בזה שהוא העניק לי את דמות המבוכים ודרקונים שלי, אבל זאת לא אמנות, או לפחות לא אמנות "טובה". מה שמידג' כן עושה זה לאפשר לנו לראות את עצמנו בעיניים חדשות. כך שאולי לא מדובר באמנות, אבל כן בסוג של מדע בדיוני.

סופר צללים

אז אני רוצה לדבר על איזה בוט שקרא בוחטה של ספרים ועשה מזה איזה מישמש הזוי ונהדר. למעשה יש הרבה פרויקטים שעוסקים בייצור אוטומטי של טקסט, ואפילו נובלות שלמות, אבל אני רוצה לעסוק במישמש ספציפי: "הארי פוטר והדיוקן של מה שנראה כערמת אפר גדולה". ב-2018 חברת בוטניק, שמתמחה בייצור אוטומטי של טקסטים הומוריסטיים באמצעות אלגוריתמי חיזוי, אימנו בוט חיזוי טקסט על שבעת הספרים של הארי פוטר וכתבו באמצעותו כמה עמודי פאנפיקשן. הטקסט לא יוצר במלואו בידי בינה מלאכותית, ולכן הוא לא נראה כמו קיא הפונמות הרגיל שנובע לרוב ממאמצים כאלה, אלא נברר בידי צבא קטן של סופרים שבחרו כל פעם מתוך הצעות החיזוי של הבוט. גם כך, אין פלא שרוב הטקסט שיצר הבוט של בוטניק ברוכבו על מרכבת הסופרים שלו היה מגוחך למדי.

הדבר שאנחנו רואים פה בעיניים חדשות הוא הכתיבה של ג'ואן רולינג – שתחשבו עליה מה שתחשבו, כתבה סדרת ספרים פופולרית שרבים מאיתנו גדלו עליה ועל הררי הפאנפיקשן שצמחו ממנה. וכמו כל פאנפיקשן, הטקסט האבסורדי של בוטניק יכול להעניק לנו תובנות עלמאפיינים ב"הארי פוטר" שאולי לא היינו מבחינים בהם אחרת. עדיין יש בו משהו, איזה ברק (סליחה), של מה שיוצר את הקסם (סליחה!) שחשנו כשקראנו את הסדרה. וזה לא ייחודי לטקסט הזה. תובנות הנוגעות להטיות שקיימות בטקסט ולמגמות שעולות ממנו מתעוררות שוב ושוב כשעוסקים בתוצרים של רשתות נוירונים שאומנו על מאגרים ספציפיים. אפילו כשמדובר בכתיבה שאנחנו מכירות מאוד מאוד טוב. נגיד, הכתיבה שלנו.

ב-2020 כתב הסופר קן ליו סיפור קצר בשם "חמישים דברים שכל בינה מלאכותית שעובדת עם בני אדם צריכה לדעת", העוסק בבינה מלאכותית ובשיתופי פעולה בין אדם למכונה. בריאיון על הסיפור ציין ליו שהוא נכתב מתוך ייאוש – מגפת הקורונה ונחישותה של האנושות להשמיד את עצמה שאבו ממנו כל יכולת לכתוב על העתיד. הוא כתב מערכת למידה עמוקה פשוטה, קרא לה רובו_קן, ואימן אותה על כל סיפור שאי פעם כתב. ההתחלה הייתה מאכזבת. הטקסט שהפיק רובו_קן לא היה ספרות מופת, בלשון המעטה, ורוב המשפטים אפילו לא היו הגיוניים דקדוקית. אבל עצם הפעולה, ואחריה תהליך השכלול של רובו_קן, עוררו בליו השראה. הוא המשיך לייצר ולשפץ ולפרש ולבחור, ובסופו של דבר כתב את "50 דברים", שבערך עשירית ממנו כתב רובו_קן. "רובו_קן היה אני", אמר, "אבל היה לו גם משהו חדש להגיד".

אויב או כלי עזר?

אנחנו כבר חיים בעולם שבו בינה מלאכותית עושה הרבה מהעבודה בשבילנו – אפילו באמנות. יש לכך דוגמאות קיצוניות, כמו הצלם מתיו שטרן שיצר המון דיוקנאות סופר-ריאליסטיים של נשים בקימונו צהוב באמצעות דאלי 2 (DALL-E 2), ואז שיפץ להן את העיניים – האלמנט הכי בעייתי בתוצרים כאלה – באמצעות כלי בפוטושופ שיועד בדיוק למטרה הזאת. כלים אחרים הופכים שפה טבעית לקוד מחשב או עוזרים לכותבים. כבר היום, מתרגמים שעוסקים בסוגי תרגום מסוימים מתחילים לעיתים מתרגום של גוגל טרנסלייט, ואז מלטשים אותו בהרחבה. האם הפרנסה של מתרגמים וכותבים מצויה בסכנה? ומתכנתים? וצלמים?

כמובן, הערך של צלמים לחברה הוא לא היכולת שלהם ללחוץ על כפתור. אנחנו רוצים את הפרשנות שלהם, את האמירה, את טביעת האצבע האמנותית שלהם. אולי בעתיד הקרוב האנושות כבר לא תזדקק בכלל למתרגמי קורות חיים, או למתכנתים שיכתבו קוד רפטטיבי וחסר מעוף. אבל אל תצפו לתורי ענק של מתרגמים וצלמים בלשכת העבודה. פשוט כעת הם יוכלו להתחיל לבנות יצירה משלב מתקדם יותר.

הרי בכל מקרה כמעט שום דבר לא נוצר באופן עצמאי לחלוטין. מתכנתים רבים יודו שנתחים גדולים מהקוד שלהם התחיל בתור קוד פתוח מ-GitHub או מ-Stack Overflow שהם ערכו לצרכיהם – לפעמים עד שלא נותר מהמקור כל זכר, אבל איזו שיטה נפלאה לחמוק מאימת המסך השחור. תחשבו על מה שאמנים מוכשרים יכולים לעשות מרגע שילמדו איך לבקש ממידג' או מדאלי 2 ליצור בסיס טוב לאמנות שלהם או להרחיב אותה. במקום לצייר יער שלם, יעל האנימטורית תוכל להסתפק בעשרה עצים, ומידג' כבר תייצר לה אלפי וריאציות ייחודיות. תחשבו כמה זמן יתפנה לה לחלקים המעניינים באמת.

זהו את היוצרת

יש מי שחוששים שנוצרת פה בעיה אחרת – של זכויות יוצרים. הרי לכאורה דאלי 2, מידג' ודומיהם חייבים תמלוגים לציירים, הצלמים, ושאר האמנים שהם אומנו על היצירות שלהם.

יש לסופר המדע הבדיוני ספיידר רובינסון סיפור זוכה פרס הוגו בשם "פילים עגומים". קשה להמליץ על הסיפור, שכתוב כדיאלוג מתמשך ולא סוחף במיוחד שבמהלכו גיבורת הסיפור מנסה לשכנע סנטור זקן להצביע נגד הארכה משמעותית של זכויות היוצרים – אבל אני די מסכימה עם המסר שלו: זכויות יוצרים זה די חרא, ובסופו של דבר הפעלה מוגזמת שלהן פוגעת גם באמנות ובאמנים. מה שבטוח הוא שכשדיסני ולוקאספילם דורשות מ-Giphy להסיר את כל הגיפים של בייבי יודה, או כשחברת האחים וורנר דורשת ממעריצים להסיר פאן-ארט של הארי פוטר מאינסטגרם ו-etsy, כולנו מפסידים.

לפחות בנוגע לקניין הרוחני של חברות גדולות, קל למצוא רשתות גנרטיביות שמנצלות את האפרוריות החוקית הקיימת ומאפשרות די בקלות לייצר פוקימונים או דמויות של דיסני, בציפייה שהמשתמשים שלהן ימשטרו את עצמם. pixelz, למשל, מסננת מהמאגרים שעליהם האלגוריתם שלה מאומן גסויות ו"פעילות בלתי חוקית", ובזה מבחינתה האחריות שלה מסתיימת. ואמנים רבים יסכימו איתה, כי ככל שזכויות יוצרים נוקשות יותר, אמנים נאלצים להתמקסם לכיוון אמנות "מקורית" יותר ולאו דווקא טובה יותר.

לפחות נכון לעכשיו, בית המשפט העליון בארצות הברית פסק כי חברות לא יכולות לדרוש זכויות יוצרים על אמנות שיצרה בינה מלאכותית. זה משמעותי. אף שאפשר להתווכח על גובה דמי השימוש שלגיטימי שהחברות האלה יגבו, הן לא צריכות לקבל את הבעלות על האמנות שהבוטים שלהן מייצרים, כפי ש-Adobe לא יכולה לנכס לעצמה כל אמנות שנערכה בפוטושופ. בשביל זה יש רישיונות.

ואכן ב-20 ביולי השנה הכריזו OpenAI על פתיחת גרסת הבטא של דאלי 2 למיליון משתמשים, לרבות זכויות מסחריות מלאות על כל האמנות שהם יוצרים באמצעותה. גם הזכויות על יצירות של מידג' שייכות ליוצרים, כל עוד הם משלמים על מינוי.

לא שהמצב מושלם: מבאס שהקונטרולים של הבוטים האלה חבויים ושמילים רבות אסורות לשימוש, אבל אפשר לקוות שככל שייכנסו לשוק יותר בוטים כאלה, החופש והכוח של המשתמשים בהם יגדלו, והחברות שמאחוריהם ימצאו דרכים פחות הרסניות לברוח מאחריות.

הדרישה לשלם תמלוגים לאמנים שהבוטים אומנו על היצירות שלהם היא לא רק בלתי אפשרית, אלא אבסורדית. הזכויות הן של יוצרי התמונות: מי שכתבו את הפרומפט וחידדו אותו. הרי אי אפשר לחלק זכויות יוצרים לכל האמנים שמידג' למדה מהם – זה כמו לדרוש תמלוגים מאמן על כל יצירה שאי פעם העניקה לו השראה. אפשר לטעון שכל מה שהמשתמש עושה זה לבחור ולערוך ולמסגר, וזה נכון – אבל במובנים רבים זה גם מה שצלמים עושים, ואף אחד לא מערער על הזכויות שלהם. שלא לדבר על הז'אנרים הרבים באמנות שמסתמכים על יצירות קודמות – פופ-ארט, פסטיש, סאטירה, קולאז', רֶדִי מֶייד.

בעצם לא צריך להרחיק לכת עד כדי כך – העובדה היא שאף אמנות לא נוצרת ברִיק. היא תמיד מתבססת על מה שבא לפניה. ההבדל היחיד בין מידג' לכל כלי עזר אחר הוא שמידג' היא חדשה, ואנשים שונאים דברים חדשים ופוחדים מהם. כשהמציאו את הגרפיקה הממוחשבת אני בטוחה שציירי שמן רבים חששו לפרנסתם, וכשהמציאו את האזמל אני בטוחה שהתחוללה מהומה בציבור מלקקי השיש ומפצירי הצור, או מה שזה לא יהיה שאנשים עשו לאבן לפני שהיו אזמלים.

כשנכנסת טכנולוגיה חדשה לשוק, שונאיה מתחלקים בין אלו שמנסים להציג אותה כקץ הכול לאלה שמתייחסים אליה כאל אופנה חולפת. אישית, אני חושבת שלא משנה מה דעתכם על מידג', אי אפשר להמעיט בחשיבותה. מדובר בטכנולוגיה משמעותית, שתשנה במידה זו או אחרת את פני האמנות, הכלכלה והחברה. האם הכול הולך להשתנות? ברור שלא. אנשים עדיין מציירים בפחם ועדיין יוצרים סרטי סטופ-מושן בפלסטלינה תוך שימוש – רחמנא לצלן – באצבעות של הידיים שלהם. הטכנולוגיות האלה לא נעלמו. פשוט יש עוד עכשיו.

נוסף על אמנים שחוששים לפרנסתם, רבים האנשים שמבחינתם מידג', GPT3 ובינות אחרות כמותן הן כפסע מהסינגולריות הטכנולוגית – אותה נקודת זמן משוערת שבה הבינות המלאכותיות יתעלו עלינו ביכולותיהן והכול ישתנה בדרכים שאיננו מסוגלים לחזות – שתבלע את כולנו כמו בסיליסק רעב. וכמו כל טענה שקשורה לסינגולריות:

לא.

פשוט… לא.

אבל גם אם לא מדובר פה בניצניה של תודעה ממש, עדיין ההשפעה ההדדית שנוצרה בין הבינות האלה לעולם בני האדם היא מרתקת. למרות שמפתה לטעון שאי אפשר ליצור איתה אמנות מקורית, למעשה מידג' משתמשת במה שלמדה על העולם כדי ליצור אמנות חדשה – בדיוק כמונו.

למעשה, למידג' יש דמיון מפותח, כפי שמתברר כשמבקשים ממנה לצייר מילה מומצאת, כלומר לדמיין דבר חדש לחלוטין וליצור אותו יש מאין. לפני שהמילה "פרודל", הוזנה למידג', היא התקיימה רק במוחו הקודח של ממציאה, הטיקטוקאי תומס פלייט. מידג' לא התבלבלה, זיהתה שמדובר ביצור חייזרי ירקרק עם עיניים ורודות – והעניקה למילה קיום ממשי.

אופיו המדויק של הקיום הזה הוא עניין מרתק בפני עצמו. לפי הפילוסוף האוסטרי אלקסיוס מיינונג (Meinong), שעסק בחקר הממשות, יש כמה רמות או "שכבות" של קיום שאליהן ניתן למיין את כל הדברים הקיימים.

לפרודל אין קיום מוחשי בעולם (Existence) כמו שיש למשל לבניין הכנסת, ואפילו לא תת-קיום (Subsistence) כמו שיש לספרה 3 והפשטות אחרות. הקיום שלה הוא קיום נסוג (Absistence) בדומה למשל לספינת החלל אנטרפרייז. ולמרות שהאנטרפרייז חולקת את מישור הקיום הזה עם כל דבר שאפשר לדמיין – כולל חמוסים ורודים ומשולשים עם שמונה צלעות – היא מיוחדת, כי היא חלק מהמטען התרבותי האנושי. אפשר להצהיר הצהרות לגביה שיהיו נכונות או שקריות. למשל הטענה "האנטרפרייז היא ספינה קלינגונית" היא טעות. כטענה לוגית גרידא אין לאמירה הזאת משמעות, כי אין בעולם ספינות חלל ואין בו קלינגונים – אבל איכשהו, עדיין יש לה ערך אמת.

באופן דומה, הודות לכושר ההמצאה המשותף של טיקטוק ומידג', אם אקח תמונה של פרודל ואתייג אותה כסקרובל-שניסט, זו תהיה טעות. הפרודל קיים עכשיו. הוא קיים בתוך מידג', והוא קיים בטיקטוק, והוא קיים בליבנו. מרגע שהיא קיבלה את הדחיפה הנכונה, מידג' ילדה יצור מקורי לחלוטין שכעת מתקיים בעולם. סינגולריות או לא, זה חתיכת הישג.

לדעת מה לבקש

קל לחשוב שמשחקים אסתטיים ופילוסופיה בגרוש הם כל מה שיש למידג' להציע לנו. אבל כמו כל מדע בדיוני טוב, העומק נמצא שם, אם מחפשים אותו. בתחילת הדרך חשבתי שההתוויות שיתנו לי את התוצאות הכי מעניינות יהיו טקסטים פואטיים, או תיאורים עמומים וציוריים. גיליתי שהן מניבות תוצרים מילוליים ובנליים. לדוגמה, זו פרשנות של מידג' להתוויה "מות היצירתיות":

יעל האנימטורית צודקת. "הפרשנות של הבוט" היא לא מה שמעניין פה. הרובוט לא יודע לתת פרשנות; הוא רק יודע לתת אותנו. והאמת, זחוחה ככל שתהיה, היא שגם ככה זה מה שמעניין. האנושות, המוח הקולקטיבי שיצר את הקישורים, את הדימויים, את ההטיות האלה – כל מה שמגולם במאגרי התמונות העצומים והלא בררניים שמהם מידג' למדה.

התפקיד שלנו הוא לכאורה מוגבל: אנחנו מבקשים את התמונה. מצד שני, בעולם שבו רוב הידע שקיים זמין לנו בכיס, לא מופרך לטעון שמה שהכי חשוב ללמוד זה מה לכתוב בשורת החיפוש ואיך לשפוט אם מידע מסוים מהימן. המאפיין הזה של האינטרנט המודרני, שמקשה להבדיל בין "עובדה" ל"לא עובדה", הוא תופעה די חדשה באופן שבו בני אדם רוכשים ידע. אולי לכן המדע הבדיוני הישן פספס באופן מוחלט כל כך כשניסה לחזות את העתיד של השימוש בידע.

השוו למשל את הביזור הכאוטי של בינות מלאכותית מודרניות למחשב העל מולטיוואק מסיפוריו הקצרים של אייזק אסימוב. מולטיוואק הוא מחשב ריכוזי לחלוטין, בגודל של שכונה בחלק מהסיפורים, שלרוב פולט את תשובותיו בתבניות של נקודות קטנות שמודפסות על סרט נייר. נכון שמדע בדיוני לא נועד לחזות את העתיד, אבל הפספוסים האלה חושפים איך אסימוב ורבים מבני דורו תפסו ידע, ושליפה של ידע.

כשסופרים מהדור ההוא חזו משהו שדומה לאינטרנט, רבים מהם דמיינו מעין ספרייה ענקית. הם ציפו שהעתיד של מידע יהיה דומה לעבר שלו, וספציפית שהידע האינסופי של העתיד יזרום באופן חד-כיווני, מלחץ גבוה ללחץ נמוך. כי כשאתה חי באמצע המאה ה-20, אתה הולך לספרייה ושולף ממנה מידע. הספרייה היא לקריאה בלבד – אתה לא הולך ומקשקש הגדרות חדשות במילון או משנה את הסוף של האודיסאה.

לכן כמעט אף אחד לא ציפה לבעיות שנובעות מהזרימה הדו-כיוונית שאנחנו רואים היום. העובדה שכל אחת יכולה להוסיף לספרייה הזאת כל גיבוב שטויות מטורף שעולה בדעתה, ולהציף את האינטרנט במידע מצוץ מהאצבע שנראה ומפורמט ומגעגע בדיוק כמו מידע בדוק ומוכח, משמעותה שהיכולת לשאול את השאלות הנכונות הופכת לנכס החשוב ביותר שלנו. זה לא מתחיל בשורת הפרומפט של מידג', ובטח לא נגמר שם – היכולת לשאול את השאלות הנכונות היא תכופות מה שמפריד כיום בין אנשים שפויים ורציונליים למתנגדי חיסונים.

אף על פי שרוב יוצרי המדע הבדיוני לא צפו את האינטרנט, רבים מהם חזו מעין אורקל כל-יודעת שמחזיקה בכל התשובות, ורק צריך לדעת לשאול את השאלות הנכונות. הדוגמה הכי קיצונית היא כנראה ה"42" המפורסם ב"מדריך הטרמפיסט לגלקסיה". התשובה שם לשאלה החשובה ביקום נכונה בוודאות, אבל סתומה עד כדי כך שאין לה שום משמעות, וכוחה של ידיעת השאלה הנכונה הוא כזה שידיעת שתיהן במקביל עלולה להשמיד את היקום. למעשה החשש פה הוא מפני עודף ידע: שיהיה לנו קל מדי למצוא את התשובה לכל שאלה שעולה על דעתנו, וזה יוביל לאסון. כי גם אם בורות איננה בדיוק ברכה – היא הכרחית.

בסיפורו של ויל פ' ג'נקינס "A logic named Joe", ה"היגיון" ג'ו מעניק למשתמשיו ידע לא מבוקר בחופשיות שכמעט ממוטטת את החברה האנושית. ב"העבר המת" של אסימוב, מכונה שקרויה כרונוסקופ מאיימת להעניק לבני אדם גישה לכמות אדירה של ידע במחיר פרטיותם; ובסיפורו "הבדחן", אדם אחד שואל שאלה שמביאה לתוצאות מחרידות ובלתי-הפיכות.

לתמת הידע האסור הזאת יש היסטוריה ארוכה. סופר האימה ה"פ לאבקראפט ביסס עליה בערך את כל הרפרטואר הספרותי שלו, ואפילו טד צ'יאנג המקורי עד כאב ביסס עליה את סיפוריו "חלוקה באפס" ו"מה מצופה מאיתנו". אבל מרוב שחוזי האינטרנט פחדו מידע אסור, הם איכשהו שכחו את החלק המפחיד באמת בידע: היותו דו-כיווני. הם שכחו שמי שכותבים את הספריות הם בני אדם, ובני אדם הם יצורים נוראים, שאוהבים להפיץ את הנוראיות שלהם, בין השאר במידע כוזב ובהטיות גזעניות ואחרות, שרשתות גנרטיביות מאוד רגישות להן.

המדע הבדיוני הקלאסי הימר שמה שיתפוצץ בעתיד יהיה כמות המידע האמיתי, לא המידע בכלל – וההבדל הקטן הזה הופך את האינטרנט ליצור שונה מאוד. כן, האינטרנט מכיל את הידע הקולקטיבי של האנושות, אבל הידע הזה קבור מתחת לערמות של חרא. הבעיה היא לא להבין איך לשלוף את המידע המעניין, אלא איך לשלוף רק אותו. ואולי לכן החליטו המפתחים של מידג' להחזיר מראש ארבע תוצאות על כל בקשה: כי ברור שרוב התשובות שנקבל יהיו זבל.

כוהני האורקל

בואו נחזור למחשב העל מולטיוואק, כפי שהופיע ב"הבדחן". כמו כל הסיפורים של אסימוב, הדמויות פה הן גברים לבנים שקוראים להם סמית וג'ונסון והם מעשנים מקטרות וטופחים זה לזה על השכם ונהנים ממיזוגיניה מזדמנת – נשים הן המצאה חדשה יחסית, גם במדע הבדיוני – אבל בניגוד לרוב הסיפורים של אסימוב, הסוף שלו מסתחרר לזוועה מסויטת שלא הייתה מביישת את לאבקראפט, והיא מתרחשת כי מישהו שאל את השאלות הנכונות.

מולטיוואק הוא מחשב שבמחשבים ולכן הוא יודע הרבה מאוד דברים, ואולי את כולם – למעשה, בסיפור אחר הוא בורא את היקום – אבל כאן הוא עדיין לא מחשב-אל, אלא רק מחשב-על, ולכן החברה האנושית זקוקה לפתיתי שלג מיוחדים שנקראים "רבי-אומן", שתפקידם לחזות את סוג המידע שמולטיוואק צריך כדי לענות על שאלות פילוסופיות.

כשמישהו שואל את הרב-אומן מאירהוף למה הוא מספר למולטיוואק דווקא את הבדיחות האלה, הוא משיב, "איני יודע. הרגשתי שאלו הבדיחות הנכונות. אני רב-אומן, אתה יודע". וזה בדיוק מסוג התשובות שתשמעו מאלופי שחמט. יש להם אינטואיציה. אסימוב יצר מכונה שיודעת את כל התשובות, וכדי שתהיה עלילה היא חייבת להיות אורקל שמדברת ג'יבריש נבואי הזוי שרק קומץ כוהנים מסוגלים לפרש.

אבל בעולם האמיתי, הג'יבריש של מידג' הוא באג, לא פיצ'ר. הקושי של רשתות גנרטיביות לתת לנו את מה שאנחנו רוצים מהן הוא פשוט תוצר לוואי של המצב הראשוני מאוד של ניתוח שפה טבעית. אז לפחות כרגע עדיין נזדקק לכוהנים כדי לתקשר היטב עם האורקל הזאת. ומאחר שדת בלי מאכרים היא כמו סופר בלי קופה, כבר יש סטרט-אפים שמדברים על "מהנדסי פרומפטים" כאילו הם רבי-אומן אסימוביים.

קל מאוד לדמיין עתיד שבו יש אליטה של אנשי מקצוע שפיתחו הבנה אינטואיטיבית איך לתקשר עם בינות מלאכותיות. וכמובן, גם פה יש דו-כיווניות, שמעלה את התהייה מי פה מאמן את מי: כוהני הפרומפט מתאימים את ניסוחיהם להכיל את המילים שהאלגוריתם מגיב אליהן טוב, והאלגוריתם עשוי להתאים את עצמו אליהם, בייחוד אם הם משתמשיו העיקריים. אין מניעה שתיווצר פה לולאת משוב שתכניס ממד נישתי לשימוש ברשתות גנרטיביות.

בשלב הזה, רעיון הדמוקרטיזציה של האמנות מתפוגג, ושוב יש לנו קבוצה קטנה של אנשים מוכשרים שעבדו קשה לטפח את כישרונם לרמה שתאפשר להם להתפרנס ממנו. רק שעכשיו נוספת עוד רמה של הפשטה, ושוב המשמעות של להיות אמן השתנתה והתרחבה. בעיניי יהיה חבל אם כל האנשים שרק עכשיו קיבלו את היכולת ליצור אמנות בעצמם יאבדו אותה שוב. כי החוויה של לייצא אמנות מהמוח היא חוויה מיוחדת, ובלי רשתות גנרטיביות היא זמינה רק לקומץ. גם אם אינכם מעריכים במיוחד את האמנות הזאת, ברור שלפחות ברמה הטכנית היא ייחודית, ולא הייתה קיימת לולא המשתמשים. לכן קל מאוד להזדהות איתה.

זה חלק מהקסם של מידג' ודומותיה. נכון, הן אינן מולטיוואק, אבל קיים בהן דמיון מסוים לארכיטיפ הספרותי המוכר של הבינה המלאכותית היודעת-כול. הן מאומנות על כמות מפלצתית של מידע, אבל בלי רבי-אומן או סתם מזדנבים כמוני שירצו מהן דברים, אין חשיבות לכל המידע הזה.

הנקודה היא שמידג', כמו כל טכנולוגיה, לא טובה או רעה – היא מה שאנחנו עושים ממנה. בניגוד למולטיוואקים למיניהם, הידע של מידג' אינו אמת מוחלטת, אלא סתם אוסף פרטים אקראי מהאינטרנט, שהוא בתורו מה שקורה כשהאנושות משתמשת במרחב וירטואלי כשקית הקאה. כך שאין פה שום דבר שהוא לא אנחנו: אומנם קשה לזהות את עצמנו בתוצרים של מידג', כפי שקשה לזהות דשא בגירה של פרה – ובכל זאת, אין שם כמעט שום דבר אחר. אין פה אורקל-מולטיוואק שמתעל ידע מיסטי מהאלים – אלה רק אנחנו, ומה שהאכלנו את המכונה האומללה שבנינו, והשאלות המנוסחות היטב ששאלנו כדי לקבל ממנה את התשובות שאנחנו רוצים. מידג' היא אנחנו. או לפחות מראה אפלה שלנו.

מבעד למראה

ב"אנחנו" אני מתכוונת כמובן לגברים, וב"מראה אפלה" אני מתכוונת לכזו שכולם איכשהו נראים בה לבנים. זאת לא מטפורה מושלמת, אבל אף אחת לא מושלמת. למעשה, אם לסמוך על המאגרים שמאמנים עליהם בינות גנרטיביות, אף אחת אפילו לא קיימת.

וזה מביא אותנו לאחת מהתלונות העקביות והמוצדקות ביותר נגד הבוטים האלה – שהם פגיעים מאוד להטיות גזעיות ומגדריות שפושות במאגרים שעליהם הם אומנו. המאגרים הנפוצים ביותר בעולם עיבוד התמונה, כגון CelebA, לוקים בהטיות בוטות לטובת פרצופים לבנים. אחת הדוגמאות ההזויות היא האופן שבו PULSE, אלגוריתם מבוסס StyleGAN שאומן על מאגר המבוסס על פליקר, ניסה לשפר את הרזולוציה של תמונה מפוקסלת של ברק אובמה ובאותה הזדמנות שיפר את סיכוייו לשרוד מפגש אקראי עם שוטר.

אחד הרגעים המשמעותיים ביותר שחוויתי מול מידג' היה כשניסיתי לפגוש בהטיות האלה במודע. זה התחיל כשדיברתי עם אחותי על הציור האפריקאי ההוא של רנואר, והיא ציינה את מה שנראה לשתינו מובן מאליו – מידג' הוא תוצר של עולם מחורבן, ולכן אם נבקש ממנו "פושע", נקבל בוודאי בעיקר אנשים שחורים. הרי אותה הטיה הייתה חזקה כל כך במהלך הפיתוח של דאלי 2, עד שהיו מי שהציעו לבטל את היכולת שלו לייצר פרצופים.

אבל אז הזנו את המילה, והופתענו לקבל אנשים עם מסכות סקי, דמויות בעלות אופי קומיקסי, אנשים שקועי עיניים בקפוצ'ונים, בגופיות סבא, בחליפות – כל מה שלא ציפינו לראות. "תכתבי, פושע אלים", היא הציעה, ואז: "סוחר סמים!" אני הצעתי "גנגסטר", והיא אמרה, "לא, זה ייתן לך כל מיני מאפיונרים. תכתבי גנגבנגר".

אף בקשה לא ענתה לציפיות שלנו: התוצאות של "פושע אלים" היו כמו "פושע" אבל פצוע. בשני המקרים כולם היו לבנים או היספנים. התוויות מבוססות "כנופייה" החזירו כמעט אך ורק היספנים מקועקעי פנים יותר או פחות – הטיה ברורה, אבל לא מה שחיפשתי. חפרתי וחפרתי בזה, הזנתי התוויה אחרי התוויה. אחותי שיערה שאולי התוכן עבר סינון כדי למנוע את ההטיות האלה, ובדיעבד גיליתי שזה כנראה נכון – אבל התעקשתי להמשיך. לאחר שרשרת של חידודים כאלה גללתי במעלה הלוג כדי לבדוק אם כבר חיפשתי ניסוח מסוים והבנתי שהחיפוש אחרי ההטיות הגזעניות של מידג'רני חשף בעיקר את ההטיות הגזעניות שלי. פעם נוספת, מידג' לימדה אותי משהו על עצמי שאולי לא רציתי לדעת.

פלסטר משפטי לבעיה מוסרית

בדיעבד, כאמור, מידג' ודומיה ידועים בזה שהם מסוננים ומצונזרים עד כאב, בין השאר מפני אימה, ארוטיקה, וכל מה שטורד את קיבתם העדינה של יוצריהם. הפוריטניות של ההגבלות האלה, והשרירותיות שלהן, מזכירה ניסיון לכסות את מערומיו של ג'אבה ההאט בכיסויי פטמה.

הבעיה במידג' אינה אנשים שכותבים בהתוויות שלהם "קרוננברג" או "עירום" אלא המאגרים שעליהם היא מבוססת והשטחים המתים – רבים מהם מומתים במודע – בשדה הראייה של האנשים שבנו אותה. הפסאודו-פתרונות שהם מציעים אינם ראויים אפילו להיקרא "מס שפתיים", וזה נכון כמעט לכל בינה מלאכותית גנרטיבית, ויזואלית או טקסטואלית.

גוגל (Imagen) ו-GPT-3, למשל, פשוט מאשימות את המאגרים ומזהירות מפני תוכן פוגעני אפשרי, כי כך בדיוק אנשים כאלה רואים את העולם: כשאתה לא באמת מנסה לתקן את המוצר שלך אלא רק להימנע מתביעה, קל להסיק שהפתרון לריקבון השוכן עמוק בקרבי החברה האנושית טמון במציאת הדיסקליימר הנכון.

כולם מבינים בדיוק מה קורה פה. גוגל בחרה רק תמונות של חיות חמודות להדגמת יכולותיה של Imagen כי היא ידעה שתמונות של בני אדם יחשפו את ההטיות של המערכת. העמימות של מנגנוני הפעולה והמאגרים שעליהם הבינות האלו בנויות הופכת אותן לקופסה שחורה שמאפשרת ליוצריה לא לעשות שום דבר כדי למנוע את ההטיות האלה ובמקביל להתנער מכל אחריות להן. המדריך למשתמש של מידג' אפילו מעודד את המשתמשים "למשטר את עצמם" ולמחוק תוכן פורנוגרפי או מטריד שנוצר בטעות.

הפתרונות שהחברות האלה מציעות הם הפתרונות הקלים. קל לאסור על מילים מסוימות; קל להאשים את האינטרנט בגזענות. קלי קלות להטיל על המשתמשים את האחריות למחוק תוכן פוגעני. מה שקשה זה ליצור מאגרים טובים יותר, להפסיק להתעלם ממחקרים שמציעים דרכים אמיתיות למדידת הטיות ולהגבלתן, לשנות את הדמוגרפיה של החברות כדי שבעיות כאלה לא יתבררו רק בדיעבד, ולהפסיק להתנהג כאילו גזענות, שוביניזם ועוד מיליון הטיות אחרות הן פשוט תכונות של היקום ואין לנו שום קשר אליהן.

מה שקורה באמת זה שחלק מההטיות מתחבאות מאחורי הגדרות שנסתרות מעינינו, לחלק קשה להגיע בגלל הגבלות מגושמות על מילות חיפוש, וחלק פשוט נמצאות שם, כנראה עד שמספיק אנשים יתלוננו: כשחיפשתי "טרוריסט", כל התוצאות היו סטריאוטיפים מוסלמיים. בדאלי 2 ההטייה הזאת אף הושמטה ממסמך סיכונים והגבלות פנימי של החברה, אף שהטיות אחרות כן צוינו שם.

אחת התגובות הנפוצות לבעיות האלה היא הקריאה להחרים את הטכנולוגיה. אבל זה פשוט מונע מאיתנו לראות את עומק הבעיה. טכנולוגיה היא כמו ילד שגדל בבית מחורבן: היא רגישה מאוד להטיות האלה ולכן משקפת לנו אותן בעוצמה, אבל היא לא יצרה אותן. אין לה מסננים ואין לה יכולת שיפוט – יוצריה הם אלה שצריכים להקנות לה את הכלים האלה, ובמידה מסוימת גם אנחנו, כחלק מהחברה שבה היא פותחה. התעלמות מבעיות לא גורמת להן להיעלם. למעשה, מעטים הם המדיומים שיציבו מולנו מראה מבעיתה וכנה כמו זו שאנחנו רואים בבינות מלאכותיות שמאומנות על מאגרים אינטרנטיים. כמו מדע בדיוני טוב, מידג' היא מראה מעוותת שלנו אבל זה עיוות שימושי.

בריאיון לפודקאסט "Imaginary Worlds", הדגיש הסופר והאקטיביסט קורי דוקטורוב (Doctorow) שסופרי מדע בדיוני אינם נביאים, אלא הם פשוט מגיבים להווה שהם חיים בו. הוא משווה זאת לרופאה שדוחפת לך מטוש לגרון כדי ליצור תרבית. כשהיא מסתכלת בצלחת הפטרי, "היא מצליחה להבין משהו על מה שמתרחש לך בגוף – לא משום שיצרה מודל מדויק של הגוף שלך, אלא משום שהמודל שיצרה הוא שימושי מאוד באי-הדיוק שלו, וגורם אחד בו מאפיל על כל האחרים". זה מה שקורה, הוא אומר, כשסופרי מדע בדיוני מלקטים אלמנט טכנולוגי אחד מהחברה ומגדילים אותו עד שהוא הופך לחברה כולה. זה לא נותן לנו שיקוף מדויק של המציאות על שלל מורכבותיה, אבל זה מאפשר לנו להציץ לעולמם הרגשי של האנשים שמאכלסים אותה.

מידג' לא משקפת את המציאות. אבל היא נותנת לנו הצצה לתוך הלב של האינטרנט, ולעולם החזותי והמושגי של תושביו – שלנו. לפעמים זה כואב, ולפעמים מכוער, אבל זה אמיתי. אפשר ללמוד מזה משהו. אולי על העתיד של בינה מלאכותית. ואולי על ההווה שלנו.

אני לא יודעת אם מידג' חולמת על כבשים חשמליות. אבל אני מנחשת שאם נבקש ממנה לצייר לנו אותן נקבל כבשה, ולא קופסה עם חורים. כי זה בעצם העניין. בין שזאת אישה עם קרני עז, ובין שזה ייצוג כן של האופן שבו העולם רואה "ישראלים", האלגוריתם נותן לנו בדיוק את מה שביקשנו; לא יותר, לא פחות.

וכשהוא מאומן עלינו, זה מה שנקבל: את עצמנו. לא יותר, לא פחות.

---

תודה לשחר דורון ויעל רייספלד.