Mulighed for at reagere på US Air Force RFI om at modvirke bias i AI/ML-datasæt » CCC-blog

Tidligere på måneden udsendte US Air Force Chief Scientist's tværorganisatoriske arbejdsgruppe en Request for Information (RFI) om utilsigtet Artificial Intelligence (AI) bias. Gruppen dykker ned i det kritiske spørgsmål om bias inden for AI og Machine Learning (ML) algoritmer, med primær vægt på datasæt. De søger at lære om disse skævheder fra akademiske institutioner som minoritetstjenende institutioner (MSI'er) og historisk sorte colleges og universiteter (HBCU'er), sammen med industrien, den føderale regering og andre akademiske institutioner.

På trods af udviklingen af ​​adskillige værktøjer, der sigter mod at identificere og adressere bias, såsom Department of Defense (DoD) Responsible AI toolkit, er der stadig betydelige udfordringer med at bekæmpe bias inden for AI- og ML-systemer.

Gruppen erkender, at efterhånden som AI-teknologi udvides til nye domæner, dukker der unikke udfordringer op, hver med sit eget sæt af applikationsspecifikke skævheder, der utilsigtet kan føre til skadelige resultater. Derfor er der et presserende behov for fortsat forskning og samarbejde på tværs af discipliner for at udvikle effektive strategier til at opdage og afbøde skævhed på alle stadier af AI- og ML-udvikling.

Personer og grupper, der er interesserede i at dele oplysninger om, hvordan man bedre kan forstå AI-bias i datasæt, bør indsende et svar via deres portal senest den 15. maj.

Svar bør omfatte:

• en kompetenceerklæring
• en beskrivelse af igangværende og fremtidig forskning, institutionen har udført for at bekæmpe utilsigtet AI-bias
• en beskrivelse af alle de eksisterende partnerskaber, der har til formål at undersøge og afbøde AI-bias
• en beskrivelse af de typer af utilsigtet AI-bias, der observeres (inklusive de data, der indsamles), de domæner, de befinder sig i, og de indvirkninger, de har på institutionen
• en erklæring, der foreslår, hvordan dette arbejde vil fremme uddannelsen af ​​studerende og forskere

For at finde mere information og indsende et svar se den fulde RFI link..

Interesseret i at informere gruppen om disse udfordringer fra et industriperspektiv? De har også udgivet en RFI, hvor de håber at høre fra kommercielle og non-profit organisationer, der bruger data til at udvikle AI-kapaciteter.