אתרים מזויפים ואתרי איקורמס שנוצרו על ידי בינה מלאכותית פוגעים במותגים | crm.buzz

אתרים מזויפים ואתרי איקורמס שנוצרו על ידי בינה מלאכותית פוגעים במותגים

fake ecommerce sites

בינה מלאכותית יוצרת (Generative AI) נכנסה לחיינו בסערה ולצד עושר מטורף של יצירתיות מביאה איתה גם צדדים מפחידים יותר. אחד מהם - בינה מלאכותית יוצרת אתרים מזויפים. כיצד זה משפיע על מותגים, חנויות איקומרס, ספאם ואימייל מרקטינג?

תוכן עניינים

האזנה לפודקאסט

הבינה המלאכותית היוצרת – Generative AI – מונח שהתחלנו להתרגל אליו רק בתחילת שנת 2023, הפך להיות הדבר החם שכולם מדברים עליו ורבים מאיתנו כבר משתמשים בו ונהנים מהיצירתיות ושפע היישומים שניתן לבצע באמצעות ChatGPT או Midjourney – ואלו רק חלק משפע הכלים שמוצעים כיום.  

בינה מלאכותית. הטרמינייטור של כל המקצועות (I’ll be back) 

כניסת AI ג’נרטיבי (generative AI) לחיינו מלווה בלא מעט חששות מצידם של יוצרי תוכן, כותבים, מאיירים, ציירים, מעצבים, צלמים ואמנים אחרים.  
אך לא רק אמנים יוצרים חוששים לעתידם המקצועי והכלכלי בגלל בינה מלאכותית. בעלי מקצועות רבים אחרים נמצאים בסכנה לאבד את מקומות העבודה שלהם לבינה המלאכותית. תחומים כגון עריכת דין, מפענחים רדיולוגים (רופאים המפענחים צילומי רנטגן, CT ו-MRI), נציגי שירות לקוחות, מתכנתים, דאטה אנליסטים, עיתונאים, מקצועות פיננסיים כגון אנליסטים וסוחרים. אלו רק כמה דוגמאות. 
דובר כבר לא מעט על ההשלכות של בינה מלאכותית יוצרת על שוק העבודה והערכות שונות מדברות על כך שהיא תוביל להשפעות מרחיקת לכת ולא רק על שוק העבודה. 

אפשר לשכפל את הקול והכל

נכון לרגע כתיבת שורות אלה מתקיימת בהוליווד שביתה של כותבים ושחקנים ניצבים החוששים שהבינה המלאכותית היוצרת תייתר אותם. שביתות האלה ידחו השקתם של סרטים וסדרות. כבר כיום (והיכולת הזו רק משתפרת בכל כמה חודשים) בינה מלאכותית יוצרת מחליפה שחקנים, ניצבים, שחקני קול (voice actors). האם בראד פיט הבא יהיה בכלל יצור דמיוני, שנראה אמיתי? אווטר פרי יצירתה של הוליווד? 
למתבונן בסרטונים ותמונות אין עוד יכולת להבחין האם מדובר בצילום אמיתי או בפייק מוחלט. כך גם לגבי תמונות סטילס וקולות אנושיים שניתן לשכפל (professional Voice Cloning) לצרכים לגיטימיים כמו שחקנים שקולם המשוכפל ישמש בסרטים (לדוגמא: קולו העמוק והמיוחד של השחקן james earl jones שוכפל לצורך שימוש כקולו של Darth Vader בסדרת מלחמת הכוכבים). אך החשש הגדול הוא כי שכפול קולות לצרכי זיוף והונאה ילך ויגבר (ראו בהמשך המאמר). 
בכירים ולשעברים בתעשיית הטכנולוגיה, ביניהם אילון מאסק (טסלה, ספייס אקס וכו’), סטיב ווזניאק (מייסד אפל) ואחרים, קראו להשהות את הפיתוח של הדורות הבאים של בינה מלאכותית על מנת לתת לשוק ולרגולציה אפשרות לעכל ולהתאים את עצמם. 
Mo Gawdat לשעבר בכיר במיקרוסופט, IBM ומי שניהל את מעבדת Google X משרטט בספרו Scary Smart תרחיש אפוקליפטי לעתיד האנושות מתרחישי איימים המוכרים לנו מסרטי מדע בדיוני שעשויים לדעתו להתרחש במציאות, אם לא נערך לכך עכשיו. יש לו נימוקים משכנעים (אני ממליץ לצפות בסרטון איתו). 

בינה מלאכותית יוצרת = פרץ של יצירתיות 

בקרב כותבים ויוצרים נשמעים גם קולות אחרים המהללים ומשבחים את הבינה המלאכותית היוצרת. הקלות הרבה שבה ניתן ליצור תכנים כתובים, לעשות מחקר על תחום מסוים, ליצור תכנים ויזואליים ועוד משדרגת את היכולות של יוצרי תוכן קיימים ובוודאי תכניס לשוק אנשים שנמנעו מכך עד עתה.  
בינה מלאכותית יוצרת יכולה להיות התרופה לאחת המחלות הקשות של כותבים ויוצרי תוכן: ה- writers block. בינה מלאכותית יוצרת, היא כלי נפלא שבאמצעותו ניתן לפתח רעיונות, לקבל טיוטה ראשונית למאמר, פוסט, או פרק בספר, לקבל טיוטת תוכן כתוב או ויזואלי, הגהה או תרגום של טקסט ועוד. כלי בינה מלאכותית יוצרת ירחיבו בצורה משמעותית את כמות יוצרי התוכן, אך לאו דווקא את איכותם ומומחיותם. 
האמת שזה די מדהים. מספיק לתת פקודות מילוליות פשוטות (צייר לי כבשה) כדי שהקסם הזה יקרה ויתקבל משוב שומט לסת תוך שניות ספורות. בסופו של דבר יוצר תוכן הוא סוג של אמן ובינה מלאכותית היא כמו חומר ביד היוצר. לא כל מי שמחזיק מצלמה ביד יודע לצלם, לא כל מי שמחזיק מכחול יודע לצייר, ולא כל מי שיש לו פוטושופ על המחשב יודע לנצל את מלוא יכולותיו.  

AI יוצר זיופים – מי מסתתר מאחורי המסכה? 

לבינה המלאכותית היוצרת יש צדדים אפלים והיא מטשטשת את הגבולות בין אמיתי לפייק. היכולות של בן אנוש להבחין בין אמת לשקר שנוצר באמצעות בינה מלאכותית שנראה אמיתי ומוחשי לחלוטין הולכת ומצטמצמת. אפשר לומר שכבר היום ישנם תוצרים של בינה מלאכותית ביניהם סרטוני וידאו שנראים ונשמעים אותנטיים לגמרי של שחקני קולנוע, מנהיגים ופוליטיקאים שנוצרו על ידי בינה מלאכותית. 
החשש נובע בין השאר משימוש בצילומים, קולות וסרטונים שנוצרו על ידי בינה מלאכותית כדי לזייף זיהוי ביומטרי או להתחזות לצורכי הונאה וזיוף.  
למשל, דמיינו מנהלת כספים בחברה עסקית גדולה שקיבלה אימייל שנראה לה מעט חשוד מטעם המנכ”ל שמבקש לאשר העברת סכום כסף גדול לספק חדש. בעודה מתלבטת מה לעשות, היא מקבלת שיחה טלפונית מהמנכ”ל המבקש ממנה בקולו לזרז את ביצוע ההעברה ומאשר לה לבצע אותה. 
אלא שהמייל הוא מייל שהתחזה למייל מהמנכ”ל (spoofing) ושיחת הטלפון בוצעה על ידי בוט שיודע לנהל שיחה אנושית ברמה גבוה מאוד שאומן לדבר בסגנון הייחודי של מנכ”ל החברה ונשמע בדיוק כמוהו.  

זה טום קרוז? 

החשש הוא שהבינה המלאכותית היוצרת עשויה להיות כלי מלחמה תודעתי משמעותי במערכות בחירות. בפעם הבאה שתראו סרטון של מנהיג או ראש מפלגה האם תדעו להבחין האם זהו דיפ פייק או סרטון אוטנטי? שלבו את הדיפ פייק עם יכולת ההפצה הוויראלית של הרשתות החברתיות וקבלו כאוס מוחלט. 

הבינה המלאכותית נכנסת לכל תחומי החיים ואנחנו נמצאים במרוץ של אדם מול מכונה כשהחשש הגדול הוא שהגולם יקום על יוצרו. עד עכשיו אולי זה נראה לנו כאפיזודה מסרט מדע בדיוני, אך התרחיש הזה הופך להיות קרוב יותר מאי פעם. מוחשי יותר מאי פעם. אמיתי יותר מאי פעם. מרתק ומפחיד. 

משפחת סוֹפר על – ספרים מזויפים 

חלק מהחוזקות של הבינה המלאכותית היוצרת, היא היכולת לכתוב בסגנון של יוצר אחר. היה זה רק עניין של זמן כדי שיכולות הבינה המלאכותית היוצרת יהפכו לכלי לזיוף יצירות. 
כך למשל בעקבות פריחתה של הבינה המלאכותית היוצרת, חנות הספרים של אמזון הוצפה לאחרונה בספרים מזויפים, חלקם תחת שמות של יוצרים מזויפים אך גם תחת שמות של סופרים יידועי שם תוך גניבת זהותם וזכויות היוצרים שלהם. 
כך לחרדתה גילתה הסופרת Jane Friedman שאך ורק הודות להיותה סופרת ידועה, הצליחה לאחר מספר פניות לאמזון להוריד את הספר המזויף שפורסם כביכול תחת שמה מחנות הספרים של אמזון. היא תוהה מה יקרה לסופרים פחות ידועים…  אמזון טוענת שהיא מפעילה כלים ומדיניות למניעת מצב זה, אך בפועל ספרים מזויפים ממשיכים להתפרסם שם ובחנויות אחרות. 

גולשים מזויפים 

פרופילים מזויפים היא תופעה לא חדשה. אלא שהיכולת של בינה מלאכותית יוצרת, ליצור בעצמה צבא של בוטים, לנהל ולהפעיל אותו, או לגרום לו לרדת למחתרת בעת הצורך הופכת למשימה פשוטה ונגישה יותר. 

ביקורות מזויפות 

באותה אמזון וכך גם בכל חנות איקומרס חלק גדול מהחלטת גולשים אם לרכוש מוצר זה או אחר, נעשית תוך בחינת חוות הדעת והמלצות של הגולשים. אלא שהבינה המלאכותית היוצרת גרמה למצב שבו חוות דעת מזויפות נוצרות (באמצעות פרופילים מזויפים) מה שיוצר הטיה ברורה למותגים ומוצרים מסוימים.

הודעות ספאם מבוססות AI

בזכות בינה מלאכותית יוצרת, אימייל מרקטינג יהיה מדויק יותר ואישי יותר. ניתן למשל ללמד את הבינה המלאכותית ללמוד את שפת המותג על ידי מעבר על כל האימיילים שנשלחו ללקוחות בעבר, קריאת תכתובת כזו או אחרת בהתאם לסיטואציות שונות הקשורות בשיווק או במסעות לקוח, בשירות ועוד. בוטים מבוססי בינה מלאכותית ילמדו את העדפות המשתמשים ויצרו הודעות סופר פרסונאליות.  
ההתפתחויות המטאוריות ב- generative large language models (LLM) יאפשרו למודלים להיות הרבה יותר מדויקים בעזרת הרבה פחות דאטה. למשל באמצעות התבוננות בפרופיל הלינקדאין שלכם ובכמה פוסטים שפרסמתם המודל ידע בדיוק רב לחכות את סגנון הכתיבה שלכם וגם לדעת לדבר או לכתוב אליכם בשפה שתתחברו אליה. כתוצאה מכך הבינה המלאכותית היוצרת תיצור הודעות ספאם ופישינג מאוד פרסונאליות. זה יגביר את המוטיבציה של ספאמרים ויאתגר את מסננות הספאם.

אתרים מזויפים ואתרי איקומרס מזוייפים 

אתרים מזויפים, אתרי איקומרס מזויפים או מותגים מזויפים הם לא דבר חדש. אתרי איקומרס מזוייפים נועדו לביצוע הונאה. בעבר על מנת לשכפל אתרי איקומרס נדרש מאמץ טכנולוגי, גב כלכלי וכוח אדם מיומן. אלא ש-AI יכול ליצור בקלות עיצוב ולכתוב קוד לבניית אתר מתחזה אתרים בקצב על אנושי מה שיגרום להצפה של אתרי איקומרס מזויפים. קצב היצור ודיוק השכפול – כולל השינויים הקלים והעדכונים של אתרי המקור – רק ילך ויתגבר. הבינה המלאכותית תעשה את מלאכת הזיוף קלה יותר. 

הסיוט – שילוב של אתרים מזויפים וספאם מטורגט. 

שילוב בינה מלאכותית יוצרת וביג דאטה יחד יצרו את מנגנון הטירגוט המושלם: נתונים ממקורות שונים (כגון מאגרי מידע שדלפו ממקורות שונים) וחיצוניים (כגון מבוססי חיפוש בפרופילים ברשתות חברתיות). כעת דמיינו את הנתונים הללו בשילוב היכולות של בינה מלאכותית יוצרת (בסגנון ChatGPT) שיודעת לנסח אימיילים סופר פרסונליים בתהליכי מכירה, נטישות עגלה וכדומה באתרים סחר מזויפים.  
הפרקטיקה הזו של זייפנים וספאמרים עשויה ליצור לאתרי איקומרס לגיטימיים אתגרי אמינות. 

איך ליצור בידול ולהיראות לגיטימי בתוך ים של פייק? 

בכל הקשור בדיוור, ישנם כמה דברים שמותגי איקומרס ומדוורים יכולים לעשות על מנת לבנות את ה-trust מול הנמענים שלהם ולסייע להם לזהות דיוורים לגיטימיים מהמותג.

הגנה על שם המותג 

כמות סיומות הדומיינים (TLD) אינה מאפשרת למותגים לבצע רישום הגנתי על שם הדומיין שלהם. מדובר במאות רבות של סיומות. לכל הפחות בצעו רישום הגנתי (רישום של הדומיין והגדרתו כדומיין לא מדוור) של הדומיין שלכם בסיומות ראשיות בטריטוריה שבה אתם פועלים. דומיין שינסה להתחזות לשם הדומיין שלכם קרוב לוודאי שינסה לרשום synonym domain או cousin domain.  

אימות דומיין

אימייל נחשב לערוץ trusted מול לקוחות. תרמו לכך, בין השאר, פרוטוקולים שהתפתחו עם השנים לאימות והגנה על הדומיין המדוור שביכולתם לסייע למנגנוני סינון הספאם בספקיות האימייל ובגופי הלוחמה בספאם לזהות את הדומיין של המותג המדוור ולסנן אימיילים הנשלחים מהדומיין של המותג בהתאם ל-reputation של הדומיין. שיוך שם הדומיין ומתן הרשאה למערכת המדוורת מבוצע על ידי אימות הדומיין השולח באמצעות פרוטוקולים לאימות הדומיין.
הפרוטוקולים הם SPF ו-DKIM ובכל מערכת דיוור או מערכת מדוורת מודרנית ניתן להגדיר אותם. 

צמצום Spoofing 

פרוטוקול נוסף, מאפשר להגן במידה מסוימת על דומיין מפני התחזות. אם מטמיעים אותו כהלכה ולאחר אבולוציה שבמסגרתה מטפלים בהגדרות אימות הדומיין בכלל המערכות המדוורות.  
זהו פרוטוקול DMARC ומומלץ להטמיע DMARC באמצעות כלי ניטור. ראו רשימה מומלצת של כלים. 

כלי הטמעה וניטור DMARC נפוצים

שם הכלי הערות
easydmarc value for money
Uriports value for money
dmarcdigests value for money
dmarcly
dmarcian
kdmarc
dmarcanalyzer
dmarcreport

לוגו BIMI 

הפרוטוקולים (SPF, DKIM, DMARC) אינם נראים לעין האנושית. הם פרוטוקולים ששרתי דיוור (receiving side) ומסננות דוא”ל “רואים”. 
מותגים שיעברו את האבולוציה של DMARC עד למצב אכיפה (p=reject) יוכלו לעשות צעד נוסף ולהציג BIMI Logo שהוא למעשה פרוטוקול הכולל אימות ויזואלי שנמען שמקבל אימייל רואה בתיבת ה-inbox ויכול לוודא שזהו שולח לגיטימי על ידי זיהוי הלוגו של המותג. 
פרוטוקול BIMI תלוי בהטמעה נכונה של SPF, DKIM ו-DMARC ועל מנת להציג אותו נדרשת הטמעה נכונה ואימות בעלות על הלוגו (VMC Certificate) הכרוכה בעלות שנתית של כ- 1,300-1,500 דולר בשנה. 

the dmarc journey
מסע אל הפסגה של אימות על הדומיין והגנה על המותג

וי כחול ב-Gmail 

הצגת לוגו ב-Gmail אפשרית נכון לעכשיו גם על ידי העלאת לוגו ל-Google Account של החשבון השולח (ניתן להגדיר חשבון גוגל גם לדומיין פרטי). על מנת לבדל בין לוגו שאינו מאומת לבין לוגו מאומת (BIMI Logo) Gmail עשתה צעד מיתוגי נוסף ומציגה וי כחול המאשר כי הדומיין השולח והלוגו מאומתים. 

ראו הרחבה – איך לקבל אימות וי כחול בג’ימייל

Gmail Blue checkmark

הצגת הוי הכחול ב-Gmail (ותיבות אימייל נוספות) היא חותם אמינות שמותגים יכולים לשאוף לקבל על מנת לשפר את אמינות והאמון במותג כאוטנטי בתקופה שבה היכולת להבחין בין מקור לזיוף הולכת ונשחקת. 

אשמח לסייע לכם בהטמעת וי כחול ב-Gmail. ניתן לקבוע איתי פגישה ראשונית בנושא. 

ראיונות בפודקאסט עם מומחי אימייל מרקטינג בינלאומיים

האזנה לפודקאסט
רוצה להתייעץ איתי לגבי שיפור האימייל מרקטינג או עבירוּת המיילים שלך? אני מזמין אותך לפגישת ייעוץ ראשונית של 1/2 שעה, ללא עלות. book a 1/2 email deliverability discovery call.
sella 2
Sella Yoffe
CEO , 

Email Deliverability & Email Marketing Expert 

working with global email senders, startups, and ESPs to improve their deliverability and email authentication

Podcast host & Blogger @ CRM.BUZZ & EmailGeeks.Show

היי. אני סלע יפה, מומחה לעבירוּת אימיילים.

אני מזמין אותך להצטרף ולקבל גישה לקורס דיגיטלי בנושא עבירוּת אימיילים ותכנים בלעדיים נוספים למנויי הניוזלטר.

אני מזמין אותך להצטרף ולקבל בכל יום שישי את הניוזלטר שלי עם כל מה שמעניין וחשוב לדעת על אימייל מרקטינג ועבירוּת אימיילים.

הרשמה לניוזלטר פופ
דילוג לתוכן