מחוללי תמונות חדשים בטכנולוגיות הבינה המלאכותית מאפשרים לכל גולש ליצור בקלות תמונות פוטוריאלסטיות, שנראות כצילום של ממש. לצד הפוטנציאל היצירתי האדיר, טמונות לא מעט סכנות. גורמים עוינים עשויים להשתמש בתמונות כדי לבצע מגוון רחב של פשעי סייבר, כולל הפצה של מידע שקרי, גניבת זהויות ובדיית זהויות. לא מעט משתמשים כבר הספיקו לזהות את הפוטנציאל, ולייצר רווחים בדרכים מפוקפקות. דוגמה מוכרת היא עמוד האינסטגרם של הדוגמנית איטנה לופז, עמוד עם מאות אלפי עוקבים, שעל פי הערכות מגלגל כבר עשרות אלפי דולרים מדי חודש. הקאצ’? איטנה לופז היא לא אדם אמיתי, אלא דמות שנוצרה בטכנולוגיית AI.
הגנה על המשתמשים ומאבק במידע מוטעה
במטא החליטו לשים סוף לבלגן, קצת בדומה לכלי שפיתחה גוגל. בהצהרה שפורסמה לאחרונה על ידי החברה, הוצגו שורה של צעדים מעשיים להתמודדות עם האיומים האפשריים – ובראשם סימון תמונות שנוצרו בבינה מלאכותית בכל פלטפורמות החברה, פייסבוק אינסטרם וט’רדס. התמונות יקבלו חותמת “Imagined with AI” גלויה, וחתימה דיגיטלית נסתרת במטא-דאטה. בחברת מטא מעוניינים להרחיב את המנגנון גם לתמונות שנוצרו בכלי בינה מלאכותית אחרים, ולשם כך הם פועלים עם גורמים נוספים בתעשייה. המטרה היא ליישר קו בין כל השחקניות הגדולות, ולפתח תקנים טכניים לזיהוי וסימון תוכן AI.
AI נגד AI: המאבק על המרחב הווירטואלי
מה עושים כשטכנולוגיית בינה מלאכותית מאיימת על המרחב הווירטואלי? משתמשים בבינה מלאכותית כדי להגן על המרחב הווירטואלי, כמובן. ואכן, טכנולוגיית AI משמשת את מטא בהגנה על משתמשים מפני ביטויי שנאה, ותכנים נוספים שמפרים את המדיניות שלה. במטא טוענים כי בדרך הזאת הם הצליחו לצמצם את ביטויי השנאה בפייסבוק, עד לרמה של 0.01-0.02% בלבד.
שימושים נוספים של מטא בבינה מלאכותית כוללים בין היתר:
- איתור וסינון תוכן מפר: מודלים של שפה (LLMs) יאפשרו זיהוי תכנים פוגעניים או מוטעים.
- בדיקת עובדות: מנגנון בלתי תלוי יסווג תכנים שנוצרו על ידי AI ויבטיח אמינות מידע.
- הגנה על מותגים: זיהוי תמונות מזויפות המתחזות למותגים יגן על המוניטין שלהם.
השינוי מתחיל: מודעות, אותנטיות ואמון בעולם הדיגיטלי
הצעדים של מטא נעשים כדי להגביר את השקיפות, ואת מודעות הגולשים לגבי מקורן של התמונות אליהן הם נחשפים. השאיפה היא לצמצם ככל שניתן את הסיכויים להונאה, הפצת מידע מוטעה ופשעי סייבר נוספים. כך, תיווצר סביבה דיגיטלית אמינה יותר. השינויים הללו ממחישים את הצורך ההולך וגובר באותנטיות. הגולשים יהיו ערים יותר למקורן של תמונות ופרסומות, ועם זה אנשי השיווק בדיגיטל יצטרכו להתמודד.
