הזדמנות להגיב ל-RFI של חיל האוויר האמריקני בנושא התמודדות עם הטיה במערך נתונים של AI/ML » בלוג CCC

מוקדם יותר החודש קבוצת העבודה הבין-סוכנויות של המדען הראשי של חיל האוויר האמריקאי שלחה א בקשה למידע (RFI) על הטיה לא מכוונת של בינה מלאכותית (AI).. הקבוצה מתעמקת בנושא הקריטי של הטיה בתוך אלגוריתמים של AI ו- Machine Learning (ML), עם דגש ראשוני על מערכי נתונים. הם מבקשים ללמוד על הטיות אלה ממוסדות אקדמיים כמו מוסדות המשרתים מיעוטים (MSIs) ומכללות ואוניברסיטאות שחורות היסטוריות (HBCUs), לצד התעשייה, הממשל הפדרלי ומוסדות אקדמיים אחרים.

למרות הפיתוח של מספר כלים שמטרתם לזהות ולטפל בהטיות, כמו ערכת הכלים של משרד ההגנה (DoD) Responsible AI, עדיין נמשכים אתגרים משמעותיים במאבק בהטיות בתוך מערכות AI ו-ML.

הקבוצה מכירה בכך שכאשר טכנולוגיית הבינה המלאכותית מתרחבת לתחומים חדשים, צצים אתגרים ייחודיים, כל אחד עם סט משלו של הטיות ספציפיות לאפליקציה שעלולות להוביל בטעות לתוצאות מזיקות. לכן, קיים צורך דחוף במחקר מתמשך ובשיתוף פעולה בין דיסציפלינות כדי לפתח אסטרטגיות יעילות לזיהוי והפחתת הטיות בכל שלב של פיתוח AI ו-ML.

אנשים וקבוצות המעוניינים לשתף מידע על איך להבין טוב יותר הטיית AI במערך נתונים צריכים להגיש תגובה דרך הפורטל שלהם עד 15 במאי.

התשובות צריכות לכלול:

• הצהרת יכולות
• תיאור של מחקר מתמשך ועתידי שהמוסד ביצע כדי להילחם בהטיה לא מכוונת של AI
• תיאור של כל השותפויות הקיימות שמטרתן לחקור ולהפחית הטיית AI
• תיאור של סוגי הטיית בינה מלאכותית לא מכוונת שנצפים (כולל הנתונים הנאספים), התחומים שבהם הם נמצאים וההשפעות שיש להם על המוסד
• הצהרה המציעה כיצד עבודה זו תקדם את החינוך וההכשרה של סטודנטים וחוקרים

כדי למצוא מידע נוסף ולהגשת תגובה, עיין ב-RFI המלא כאן.

מעוניין ליידע את הקבוצה על אתגרים אלו מנקודת מבט של התעשייה? הם גם שחררו א RFI, שם הם מקווים לשמוע מארגונים מסחריים וללא מטרות רווח שמשתמשים בנתונים לפיתוח יכולות AI.