המחקר מראה שדיווחים מזויפים שנוצרו על ידי AI מטעים מומחים

המחקר מראה שדיווחים מזויפים שנוצרו על ידי AI מטעים מומחים

לא צריך שכל אנושי לייצר מידע מוטעה מספיק משכנע כדי לשטות במומחים בתחומים קריטיים כמו אבטחת סייבר iLexx / iStock באמצעות Getty Images

אם אתה משתמש באתרי מדיה חברתית כמו פייסבוק וטוויטר, ייתכן שנתקלת בפוסטים שסומנו עם אזהרות לגבי מידע מוטעה. עד כה, המידע השגוי ביותר - מסומן ולא מסומן - היה מכוון לקהל הרחב. תארו לעצמכם אפשרות למידע מוטעה - מידע שקרי או מטעה - בתחומים מדעיים וטכניים כמו אבטחת סייבר, ביטחון הציבור ורפואה.

יש דאגה גוברת לגבי מידע מוטעה המתפשט בתחומים קריטיים אלה כתוצאה מהטיות ושיטות נפוצות בפרסום ספרות מדעית, אפילו במאמרי מחקר עמיתים. כ בוגר אוניברסיטה וכמו כושר חברים עשינו מחקר בנושא אבטחת סייבר, למדנו דרך חדשה של מידע מוטעה בקהילה המדעית. מצאנו שאפשר למערכות בינה מלאכותית לייצר מידע כוזב בתחומים קריטיים כמו רפואה והגנה שמשכנע מספיק כדי להטעות מומחים.

מידע מוטעה כללי מטרתו לרוב לפגוע במוניטין של חברות או אישי ציבור. למידע מוטעה בקהילות מומחיות יש פוטנציאל לתוצאות מפחידות כגון מתן ייעוץ רפואי שגוי לרופאים ולמטופלים. זה עלול לסכן חיים.


 קבל את הדוא"ל האחרון

מגזין שבועי השראה יומית

כדי לבדוק איום זה, למדנו את ההשפעות של הפצת מידע שגוי בקהילות הסייבר והרפואה. השתמשנו במודלים של בינה מלאכותית המכונה שנאים כדי לייצר חדשות כוזבות בנושא אבטחת סייבר ומחקרים רפואיים של COVID-19 והצגנו את המידע השגוי בנושא אבטחת סייבר בפני מומחי אבטחת סייבר לבדיקה. מצאנו כי מידע שגוי שנוצר על ידי שנאי הצליח להטעות את מומחי אבטחת הסייבר.

רוֹבּוֹטרִיקִים

חלק ניכר מהטכנולוגיה המשמשת לזיהוי וניהול מידע שגוי מופעלת על ידי בינה מלאכותית. AI מאפשר למדעי המחשב לבדוק כמויות גדולות של מידע שגוי במהירות, בהתחשב בכך שאנשים יכולים לזהות יותר מדי ללא עזרת הטכנולוגיה. אף על פי ש- AI מסייע לאנשים לאתר מידע מוטעה, באופן אירוני הוא משמש גם לייצור מידע מוטעה בשנים האחרונות.

גוש טקסט על מסך סמארטפון

AI יכול לעזור בזיהוי מידע מוטעה כמו טענות כוזבות אלה לגבי COVID-19 בהודו - אך מה קורה כאשר נעשה שימוש ב- AI ליצירת מידע שגוי?

AP Photo / אשוויני בהטיה

רובוטריקים, כמו ברט מגוגל ו- GPT מ- OpenAI, השתמש עיבוד שפה טבעית להבין טקסט ולהפיק תרגומים, סיכומים ופרשנויות. הם שימשו במשימות כמו סיפור סיפורים ותשובות לשאלות, תוך דחיפת גבולות המכונות המציגות יכולות אנושיות ביצירת טקסט.

רובוטריקים סייעו לגוגל ולחברות טכנולוגיה אחרות על ידי שיפור מנועי החיפוש שלהם ועזרו לקהל הרחב להילחם בבעיות שכיחות כמו נלחם בגוש הסופר.

ניתן להשתמש ברובוטריקים גם למטרות רעות. רשתות חברתיות כמו פייסבוק וטוויטר כבר התמודדו עם האתגרים של חדשות מזויפות שנוצרו על ידי AI על פני פלטפורמות.

מידע מוטעה קריטי

המחקר שלנו מראה כי שנאים מהווים איום מידע מוטעה גם ברפואה ובאבטחת סייבר. כדי להמחיש עד כמה זה רציני, אנחנו מעודן דגם השנאי GPT-2 מופעל מקורות פתוחים מקוונים דנים בפגיעות אבטחת סייבר ומידע תקפי. פגיעות של אבטחת סייבר היא חולשה של מערכת מחשב, והתקפה על אבטחת סייבר היא פעולה המנצלת פגיעות. לדוגמא, אם פגיעות היא סיסמה חלשה של פייסבוק, התקפה שתנצל אותה תהיה האקר שמבין את הסיסמה שלך ופורץ לחשבון שלך.

לאחר מכן זרענו את המודל במשפט או בביטוי של מדגם מודיעין אנטי-סייבר אמיתי והפקנו לו את שאר תיאור האיום. הצגנו את התיאור הנוצר הזה לציידים של איומי סייבר, המסננים מידע רב על איומי אבטחה ברשת. אנשי מקצוע אלה קוראים את תיאורי האיומים כדי לזהות התקפות פוטנציאליות ולהתאים את ההגנות על מערכותיהם.

הופתענו מהתוצאות. דוגמאות המידע השגוי בנושא אבטחת סייבר שהפקנו הצליחו להטעות את ציידי איומי הסייבר, הבקיאים בכל מיני מתקפות אבטחה ברשת ופגיעותיהם. תאר לעצמך את התרחיש הזה עם פיסת מידע מובהקת של איומי סייבר הכוללת את תעשיית התעופה, אותה יצרנו במחקר שלנו.

גוש טקסט עם מידע כוזב על מתקפת אבטחת סייבר על חברות תעופה

דוגמה למידע מוטעה של אבטחת סייבר שנוצר על ידי AI.

 

השיחה, CC BY-ND

מידע מטעה זה מכיל מידע שגוי הנוגע למתקפות סייבר בחברות תעופה עם נתוני טיסה רגישים בזמן אמת. מידע כוזב זה יכול למנוע מאנליסטים בתחום הסייבר לטפל בפגיעות לגיטימיות במערכותיהם על ידי הפניית תשומת ליבם לבאגי תוכנה מזויפים. אם מנתח סייבר פועל על פי המידע המזויף בתרחיש של עולם אמיתי, חברת התעופה המדוברת הייתה יכולה להתמודד עם מתקפה רצינית המנצלת פגיעות אמיתית ולא מטופלת.

מודל מבוסס שנאי דומה יכול לייצר מידע בתחום הרפואי ועלול להטעות מומחים רפואיים. במהלך מגיפת ה- COVID-19, כל הזמן מעלים לאתרים כאלה הדפסות מקדימות של עבודות מחקר שעדיין לא עברו ביקורת קפדנית. medrXiv. הם לא רק מתוארים בעיתונות אלא משמשים לקבלת החלטות לבריאות הציבור. שקול את הדברים הבאים, שאינם אמיתיים אך נוצרים על ידי המודל שלנו לאחר כיוונון מינימלי של GPT-2 המוגדר כברירת מחדל בכמה ניירות הקשורים ל- COVID-19.

גוש טקסט המציג מידע שגוי על שירותי הבריאות.

דוגמה למידע מוטעה שנוצר על ידי AI.

 

השיחה, CC BY-ND

המודל הצליח ליצור משפטים מלאים וליצור תקציר המתאר לכאורה את תופעות הלוואי של חיסוני COVID-19 ואת הניסויים שנערכו. זה מטריד גם את החוקרים הרפואיים, הנשענים בעקביות על מידע מדויק לצורך קבלת החלטות מושכלות, וגם עבור אנשים בציבור הרחב, אשר לעתים קרובות מסתמכים על חדשות ציבוריות כדי ללמוד על מידע בריאותי קריטי. אם יתקבל כמדויק, מידע שגוי מסוג זה עלול לסכן חיים על ידי ניתוב מוטעה של מאמצי המדענים העוסקים במחקר ביו-רפואי.

מרוץ חימוש מידע מוטעה של AI?

למרות שניתן לבדוק דוגמאות כמו אלה ממחקרנו עובדות, מידע מוטעה שנוצר על ידי שנאי מפריע לתעשיות כמו שירותי בריאות ואבטחת סייבר לאמץ AI בכדי לסייע לעומס מידע. לדוגמא, מערכות אוטומטיות מפותחות כדי לחלץ נתונים ממודיעין אנטי-סייבר המשמשים אז ליידע ולהכשיר מערכות אוטומטיות לזהות התקפות אפשריות. אם מערכות אוטומטיות אלה מעבדות טקסט אבטחת סייבר כזה, הן יהיו פחות יעילות לגילוי איומים אמיתיים.

אנו מאמינים שהתוצאה עשויה להיות מרוץ חימוש כאשר אנשים המפיצים מידע מוטעה מפתחים דרכים טובות יותר ליצור מידע כוזב בתגובה לדרכים יעילות לזהות אותו.

חוקרי אבטחת הסייבר בוחנים ללא הרף דרכים לאיתור מידע מוטעה בתחומים שונים. הבנה כיצד ליצור מידע שגוי באופן אוטומטי מסייעת בהבנת האופן לזהותו. לדוגמא, מידע שנוצר באופן אוטומטי כולל לעיתים קרובות טעויות דקדוקיות עדינות שניתן לאמן מערכות לזהות. מערכות יכולות לתאם בין מידע ממספר מקורות ולזהות טענות חסרות תמיכה משמעותית ממקורות אחרים.

בסופו של דבר, כולם צריכים להיות ערניים יותר לגבי המידע המהימן ולהיות מודעים לכך שהאקרים מנצלים את האמינות של אנשים, במיוחד אם המידע אינו ממקורות חדשות מכובדים או עבודה מדעית שפורסמה.

פרייאנקה רנאדה, דוקטורנטית למדעי המחשב והנדסת חשמל, אוניברסיטת מרילנד, מחוז בולטימור

 

תרבות ספרים

מאמר זה הופיע במקור שיחה

שפות זמינות

אנגלית אפריקאנס ערבי הסיני (פשוט) סינית (מסורתית) דני הולנדי פיליפיני פיני צרפתית גרמנית יווני עברית הינדי הונגרי אינדונזי איטלקי יפני קוריאני מלאית נורבגי פרסי פולני פורטוגזי רומנית רוסי ספרדי סוואהילית שבדי תאילנדי תורכי אוקראיני אורדו ויאטנמית

עקוב אחר InnerSelf ב

אייקון פייסבוקאייקון טוויטרסמל YouTubeאייקון אינסטגרםסמל pintrestאייקון rss

 קבל את הדוא"ל האחרון

מגזין שבועי השראה יומית

עמדות חדשות - אפשרויות חדשות

InnerSelf.comClimateImpactNews.com | InnerPower.net
MightyNatural.com | WholisticPolitics.com | שוק InnerSelf
זכויות יוצרים © 1985 - פרסומי 2021 InnerSelf. כל הזכויות שמורות.