איך נלחמים בפייק ניוז ובריונות ברשת? תשאלו את בני הנוער

כשכולנו מתמודדים עם אתגרים בוערים כמו בריונות רשת ופייק ניוז, קבוצת בני נוער מתוכנית "הסטארטאפיסטים" של עמותת מחשבה טובה לא מסתפקת רק בדיבורים, אלא פיתחה פתרונות טכנולוגיים פורצי דרך. הנערות והנערים, תלמידי כיתות י'-י"א מירושלים, קריית גת ולוד, הציגו מיזמים חדשניים שמטרתם להפוך את המרחב הדיגיטלי למקום בטוח יותר. 

מהי תוכנית הסטארטאפיסטים?

תוכנית "הסטארטאפיסטים" היא יוזמה דו-שנתית ייחודית המכשירה בני נוער בכיתה י'-יא' לעולם ההייטק. מעבר ללימוד שפות תכנות מתקדמות, החניכים לומדים מיומנויות קריטיות כמו למידה עצמאית ועבודת צוות, ומתרגלים עבודה כצוותי פיתוח לכל דבר.

השנה, התוכנית שמה דגש מיוחד על התמודדות עם עוינות ברשת, נושא חברתי בוער המהווה אתגר משמעותי עבור בני נוער ונוכחותם הדיגיטלית. את התוכנית מלווים מנטורים, בעלי ידע רחב בהובלת קבוצה, תכנות ויזמות טכנולוגית. התוכנית כוללת מפגשים עם יזמים שונים מהתחום הטכנולוגי וביקורים בחברות סטארט-אפ לשם חשיפה והעשרת הקבוצה.

פיתוח סטארטאפ בעידן הבינה המלאכותית

במהלך העבודה על המיזמים, השתמשו החניכים בסוכני בינה מלאכותית (AI agent) כדי לייעל ולשפר את כתיבת הקוד ואת המיזמים שלהם. מדובר בעליית מדרגה משמעותית שהובילו מדריכי התוכנית כל אחד בקבוצתו.

בתחילת השנה החניכים למדו את בסיס החומר הנלמד וכיצד להשתמש בו, וברגע שהתחילו לעבוד על פרויקט הגמר שלהם, הם עברו ללמוד ולהתנסות בסוכני הבינה המלאכותית. "הסוכנים" יכולים לקבל את הקוד אליהם ולקבל הוראות מהמפעיל לגבי השיפור המיוחל, ואז לתת את הקוד החדש והמשופר למשתמש ובכך לייעל ולקצר תהליכי עבודה ותוצרים.  

שני מיזמים בלטו בכך שלא רק שהשתמשו בסוכני הבינה המלאכותית אלא גם הטמיעו אותה בתוך האתר שיצרו.

8 מיזמים מבריקים שפותחו על ידי בני נוער

Safe-Zone

• מהו המיזם? פלטפורמה חדשנית המסייעת בזיהוי מספרי טלפון של אנשים עוינים ומבטיחה דיוק ובטיחות באמצעות עדכונים שוטפים ומידע אמין, במטרה למנוע הטרדות ופגיעות.
• מי המפתח ואיך עלה הרעיון? מיזם זה פותח על ידי קבוצת בני נוער מקריית גת. הפלטפורמה פותחה כדי לספק כלי שיעזור למנוע הטרדות טלפוניות על ידי זיהוי מספרים חשודים. הרעיון נבע מהיכרות אישית של חברי הצוות עם מקרים של הטרדות ושיחות אנונימיות. הם זיהו את הצורך הדחוף לאתר ולזהות מספרי טלפון עוינים, במטרה למנוע הטרדות וליצור תחושת ביטחון במרחב הדיגיטלי כשליחות קהילתית. 
• אלמנט החדשנות (AI): הפלטפורמה נעזרת בבינה המלאכותית שמאמתת את הדיווחים המתקבלים ומסננת מידע כוזב. 

Bully of the Day

• מהו המיזם? אתר שאוסף באופן אוטומטי כתבות מרחבי הרשת העוסקות בנושא בריונות. הקוד שהם יצרו מוודא שהכתבות אכן רלוונטיות, ומייצר סטטיסטיקות שיוכלו לעזור לנו ללמוד מהמקרים להבא.
• מי המפתח ואיך עלה הרעיון? פרויקט זה פותח על ידי קבוצת בני נוער מירושלים. המיזם פותח במטרה לסייע בלימוד ממקרים של בריונות ולחבר את הנתונים למציאות העכשווית וליצור שינוי.
• אלמנט החדשנות (AI): חברי הקבוצה הטמיעו כלים של בינה מלאכותית שיעזרו לאסוף את הכתבות מרחבי הרשת ולהפעיל ביקורת לגבי מהימנות ורלוונטיות הכתבה. מעבר לכתבות, אפשר למצוא באתר מבזקים של חברי הקבוצה שמגיבים למקרים והתייחסות למצב המלחמה בארץ. כל זאת במטרה שהאתר יהיה רלוונטי ומחובר למציאות המורכבת בישראל.

FILTER-X - Fighting Cyber Bullying

• מהו המיזם? אתר שנועד לסנן תגובות פוגעניות בזמן אמת, בכל פלטפורמה, כדי למנוע בריונות רשת באופן אקטיבי. המערכת מזהה מילים פוגעניות ומתקנת אותן אוטומטית, ואם משתמש ממשיך לקלל, היא מרחיקה אותו מהאתר לזמן קצוב. בנוסף, המיזם מציע כלים לדיווח אנונימי, מידע ותמיכה לנפגעים, ותכנים חינוכיים לגלישה בטוחה ואחראית. מיזם זה זכה כחביב הקהל באירוע הגמר של תוכנית הסטארטאפיסטים. 
• מי המפתח ואיך עלה הרעיון? הפרויקט פותח על ידי קבוצת בני נוער מוכשרת מלוד. הרעיון נולד בעקבות סיעור מוחות, במהלכו אחת מחברות הצוות שיתפה בחוויה אישית של פגיעה מתגובות ברשת. החוויה האישית הזו היוותה השראה ישירה לפיתוח מערכת שתזהה מילים פוגעניות ותמנע את הפצתן. 
• אלמנט החדשנות (AI): המיזם משתמש בטכנולוגיה חכמה כדי לזהות ולסנן מילים פוגעניות בזמן אמת. השימוש ביכולות אלו מאפשר לו להגיב במהירות, לספק תמיכה מיידית ולשפר באופן מתמיד את יכולת הזיהוי של שפה עוינת.

VerificAI

• מהו המיזם? אתר שנלחם בפייק ניוז באמצעות טכנולוגיה מתקדמת של בינה מלאכותית. האתר מזהה חדשות כוזבות ברשת. המשתמשים יכולים להעתיק קישור והאתר בוחן את אמינות המידע.
• מי המפתח ואיך עלה הרעיון? מיזם זה פותח על ידי קבוצת בני נוער נוספת מלוד. המיזם פותח כדי לתת מענה לתופעת הפייק ניוז הגוברת בעקבות המלחמה. מטרתו להפחית חרדה תקשורתית, לעצור הפצת שקרים ולחזק את אמון הציבור במידע אמין. 
• אלמנט החדשנות (AI): המיזם מתבסס על יכולות בינה מלאכותית כדי לאתר חדשות כוזבות ברשת. הוא לא רק מזהה את התוכן, אלא גם מסייע למשתמשים לפתח את היכולת לזהות בעצמם פייק ניוז על ידי הנגשת הסברים וכלים.

PhishGuard

• מהו המיזם? מערכת לזיהוי והתרעה מפני הודעות פישינג מסוכנות. מטרת המיזם היא להגן גם על משתמשים שפחות מבינים בטכנולוגיה, ובכך להפחית את הסיכונים ברשת.
• מי המפתח ואיך עלה הרעיון? פותח על ידי קבוצת בני נוער מירושלים. המיזם נוצר במטרה להגן על משתמשים ברשת מפני סיכונים כמו הודעות פישינג. מתוך ההבנה שבעידן הטכנולוגי, רבים, גם בני נוער, מתקשים לזהות איומים דיגיטליים. הצוות שאף ליצור פתרון פשוט ונגיש שיסייע לכל אדם להימנע מסכנות אלו.
• אלמנט החדשנות (AI): המערכת משתמשת בטכנולוגיות מתקדמות כדי לזהות דפוסי פישינג ולהתריע עליהם. יכולת זו עוזרת להגן על משתמשים מפני הונאות וניסיונות גניבת מידע, גם כאשר מדובר בשיטות חדשות ומתוחכמות.

PureVibe - The Safe Place for You

• מהו המיזם? רשת חברתית חדשנית, בדומה לאינסטגרם, המבוססת כולה על שיח מכבד. הפלטפורמה משלבת מנגנוני סינון תוכן מתקדמים ובינה מלאכותית כדי לזהות שפה פוגענית, במטרה ליצור מרחב בטוח וחיובי ברשת. אם יש תוכן פוגעני האפליקציה לא מאפשרת שליחה. בסוף כל חודש כל משתמש מקבל משוב. מי שחורג נחסם. 
• מי המפתח ואיך עלה הרעיון? מיזם זה פותח על ידי קבוצת בני נוער מירושלים. המיזם נוצר מתוך הבנה כי יש צורך ליצור מרחב חברתי בטוח וחיובי ברשת. הצוות זיהה צורך קיומי במרחב בטוח, שבו המשתמשים יוכלו לבטא את עצמם בחופשיות מבלי לחשוש מפגיעה, ושאף ליצור רשת חברתית המבוססת על שיח מכבד. מקום בטוח, חיובי ונעים לכל. 
• אלמנט החדשנות (AI): המיזם משתמש בטכנולוגיות בינה מלאכותית מתקדמות כדי לסנן תכנים ולזהות שפה פוגענית. במקום להגיב לאחר מעשה, הפלטפורמה מקדמת מראש סביבה של כבוד הדדי.

VerbaGuard: 

• מהו המיזם? מערכת צ'אט חכמה המיועדת למשחקים ברשת. ומבוססת על דיווחי קהילה ומנגנון מוניטין דינמי. המערכת בוחנת דיווחי משתמשים על התנהגות לא הולמת ובונה פרופיל מוניטין לכל שחקן, במטרה לקדם סביבת משחק מכבדת ובטוחה ולמנוע עוינות.
• מי המפתח ואיך עלה הרעיון? פרויקט זה פותח על ידי קבוצת בני נוער מקריית גת. המיזם נולד מתוך הכרה בתופעה שבני נוער רבים חשופים לשפה אלימה ורעילה במשחקים ברשת, השפה פוגעת בחוויית המשחק ואף גורמת לשחקנים רבים לעזוב. הצוות החליט לפתח מערכת צ'אט  לקהילת השחקנים להתמודד עם הבעיה באופן יעיל, על ידי זיהוי דיווחים ובניית פרופיל מוניטין שיקדם התנהגות חיובית. ובכך ליצור סביבה בטוחה לילדים ונערים שאוהבים לשחק. 
• אלמנט החדשנות (AI): המיזם משתמש בנתוני קהילה ומנגנון דינמי כדי לזהות דפוסי התנהגות פוגענית. כך הוא לא רק מגיב למקרה בודד, אלא מזהה ומונע התנהגות חוזרת של משתמשים.

Real News

• מהו המיזם? פלטפורמה אמינה ומבוססת עובדות למאבק בפייק ניוז בישראל. המערכת מאפשרת למשתמשים לדווח על תכנים חשודים או מזויפים. במטרה להפחית התפשטות מידע שגוי שעלול להביא לעוינות.
• מי המפתח ואיך עלה הרעיון? פרויקט זה פותח על ידי קבוצת בני נוער מירושלים. המיזם נוצר כדי לספק מקור מידע מהימן שיסייע במאבק בתופעת הפייק ניוז. הצוות הבין שהתפשטות מידע שגוי ברשתות חברתיות עלולה לגרום נזק חברתי עצום, והחליט לפתח פלטפורמה שמאפשרת מעורבות קהילתית ומחזקת את האמון במידע ברשת. 
• אלמנט החדשנות (AI): הפלטפורמה עושה שימוש בטכנולוגיות לאימות מידע מול מקורות שונים כדי לוודא את אמינותו.

מיזמים אלה מדגימים את תרומתם של בני הנוער ליצירת מרחב דיגטלי בטוח ואחראי יותר. תוכנית "הסטארטאפיסטים" ממשיכה להוות חממה לכשרונות צעירים ונותנת במה לדור העתיד של המפתחים הישראלים.