סינון תכנים פוגעניים, או כאלה שמפרים את המדיניות היא דבר שמעסיק כל רשת חברתית, בין אם מדובר על מטא או על לינקדאין – שהיא רשת ששם השפה המקובלת היא הרבה יותר רשמית ותואמת את עולם העסקים. אין רשת שלא רוצה לסנן מהפוסטים שלה תכנים פוגעניים, אבל בלינקדאין דאגו לקחת את זה שלב אחד קדימה. אלגוריתם של למידת מכונה יעזור לסנן את התכנים הפוגעניים ויתעדף עבור צוות הבדיקה פוסטים שנמצאים בסיכוי גבוה להפרת הכללים.
איך לינקדאין בודקים פוסטים להפרות מדיניות?
מערכות הבדיקה של לינקדאין לתוכן שמפר את המדיניות, עד היום הכילו כמה חלקים:
- מערכת הגנה רב שכבתית – מערכת שמורכבת מ-3 שלבים ממוחשבים שמטרתם היא למנוע את הפצת התוכן הפוגעני כמה שיותר מהר לאחר פרסומו.
- דיווחי משתמשים – ככל שיותר משתמשים יסמנו תוכן מסוים כמפר מדיניות, כך הוא יובא לבדיקה יותר מהר.
- בודקים אנושיים – השלב הסופי הוא בדיקה אנושית שמחליטה בצורה חד משמעית – האם התוכן אכן מפר את המדיניות או לא.
שיטת העבודה הזו, מאפשרת לבודקים של לינקדאין, להבין איזה תוכן צריך התייחסות מיידית.
השיטה החדשה לבדיקות תוכן:
כמו שאפשר להבין, נוצר מצב שעדיין הבודקים האנושיים מקבלים לידיהם תוכן שלא באמת מפר את המדיניות. יכול להיות שזה תוכן שפשוט נגע בנקודה כואבת אצל קבוצה של משתמשים שהחליטה לדווח עליו, ויכול להיות שהדיווח היה מונע מתוך חוסר ידיעת המדיניות (חשבנו שאנחנו מדווחים על תוכן שמפר, אך הוא לא).
לכן, מטעמי התייעלות, החליטו לנסות ולזקק רק את הפוסטים שבאמת מפרים את המדיניות, ולכל השאר – פשוט לתת עדיפות נמוכה יותר. השיטה החדשה עובדת על בסיס בינה מלאכותית.
הסבר על שיטת הפעולה של האלגוריתם החדש, מתוך הבלוג של לינקדאין:
“תוכן שנכנס לתורי ביקורות מקבל ניקוד על ידי קבוצה של מודלים של בינה מלאכותית, כדי לחשב את ההסתברות שהוא ככל הנראה מפר את המדיניות שלנו. תוכן בעל סבירות גבוהה שאינו מפר מקבל עדיפות, חוסך רוחב פס של בודקים אנושיים; לעומת זאת, תוכן בעל סבירות גבוהה יותר להפרת מדיניות מקבל עדיפות על פני אחרים כדי שניתן יהיה לזהות ולהסיר אותו מהר יותר.”
מבדיקה שערכו, התגלה כי האלגוריתם החדש חוסך כ-60% מהזמן שלקח לבודקים לפני כן לזהות תוכן כזה.
יוצרי תוכן: איך תדעו שאתם עומדים בכללי המדיניות?
מאחר שהמשמעות של שינוי כזה היא החמרת האכיפה, עכשיו חשוב לשים לב יותר מתמיד שאתם עומדים בכללי הפלטפורמה – כדי לא להגיע להסרה של פוסטים, או במקרים חמורים יותר לחסימת חשבונות. נכון לכתיבת שורות אלה, אנחנו נמצאים בתקופה רגישה, תקופה שבה הפרת מדיניות היא עניין של מדרון חלקלק. במיוחד עכשיו, כשגם לינקדאין, הפלטפורמה שנחשבת לנקייה יחסית מפוליטיקה הפכה מוצפת בן רגע בפוסטים על המצב בישראל, חשוב להקפיד לשמור על שפה נאותה ומקצועית ולוודא שעומדים בכללי המדיניות שלה. מומלץ לכל מי שמשתמש בפלטפורמה ובוודאי ליוצרי התוכן שמשתמשים בה לצרכים עסקיים, לקרוא היטב את כללי המדיניות ולוודא – עכשיו יותר מתמיד, שעומדים בהם.
