Ευκαιρία να απαντήσετε στο RFI της Πολεμικής Αεροπορίας των ΗΠΑ για την αντιμετώπιση της μεροληψίας σε σύνολα δεδομένων AI/ML » Ιστολόγιο CCC

Νωρίτερα αυτό το μήνα, η διυπηρεσιακή ομάδα εργασίας του επικεφαλής επιστήμονα της Πολεμικής Αεροπορίας των ΗΠΑ έστειλε ένα Αίτημα για πληροφορίες (RFI) σχετικά με ακούσια μεροληψία Τεχνητής Νοημοσύνης (AI).. Η ομάδα εμβαθύνει στο κρίσιμο ζήτημα της μεροληψίας στους αλγόριθμους AI και Machine Learning (ML), με κύρια έμφαση στα σύνολα δεδομένων. Επιδιώκουν να μάθουν για αυτές τις προκαταλήψεις από ακαδημαϊκά ιδρύματα όπως τα ιδρύματα εξυπηρέτησης μειονοτήτων (MSIs) και τα ιστορικά μαύρα κολέγια και πανεπιστήμια (HBCUs), παράλληλα με τη βιομηχανία, την ομοσπονδιακή κυβέρνηση και άλλα ακαδημαϊκά ιδρύματα.

Παρά την ανάπτυξη πολλών εργαλείων που στοχεύουν στον εντοπισμό και την αντιμετώπιση της προκατάληψης, όπως η εργαλειοθήκη Υπεύθυνης Τεχνητής Νοημοσύνης του Υπουργείου Άμυνας (DoD), εξακολουθούν να υπάρχουν σημαντικές προκλήσεις για την καταπολέμηση της μεροληψίας στα συστήματα AI και ML.

Η ομάδα αναγνωρίζει ότι καθώς η τεχνολογία AI επεκτείνεται σε νέους τομείς, εμφανίζονται μοναδικές προκλήσεις, η καθεμία με το δικό της σύνολο προκαταλήψεων για συγκεκριμένες εφαρμογές που μπορεί ακούσια να οδηγήσουν σε επιβλαβή αποτελέσματα. Ως εκ τούτου, υπάρχει επείγουσα ανάγκη για συνεχή έρευνα και συνεργασία μεταξύ των επιστημών για την ανάπτυξη αποτελεσματικών στρατηγικών για τον εντοπισμό και τον μετριασμό της μεροληψίας σε κάθε στάδιο της ανάπτυξης AI και ML.

Τα άτομα και οι ομάδες που ενδιαφέρονται να μοιραστούν πληροφορίες σχετικά με τον τρόπο καλύτερης κατανόησης της μεροληψίας AI σε σύνολα δεδομένων θα πρέπει να υποβάλουν μια απάντηση μέσω της πύλης τους έως τις 15 Μαΐου.

Οι απαντήσεις πρέπει να περιλαμβάνουν:

• δήλωση δυνατοτήτων
• μια περιγραφή της συνεχιζόμενης και μελλοντικής έρευνας που έχει πραγματοποιήσει το ίδρυμα για την καταπολέμηση της ακούσιας προκατάληψης της τεχνητής νοημοσύνης
• περιγραφή όλων των υφιστάμενων συνεργασιών που στοχεύουν στην έρευνα και τον μετριασμό της προκατάληψης της τεχνητής νοημοσύνης
• περιγραφή των τύπων ακούσιας μεροληψίας τεχνητής νοημοσύνης που παρατηρούνται (συμπεριλαμβανομένων των δεδομένων που συλλέγονται), των τομέων στους οποίους βρίσκονται και των επιπτώσεων που έχουν στο ίδρυμα
• μια δήλωση που προτείνει πώς αυτή η εργασία θα προωθούσε την εκπαίδευση και την κατάρτιση φοιτητών και ερευνητών

Για να βρείτε περισσότερες πληροφορίες και να υποβάλετε μια απάντηση, δείτε το πλήρες RFI εδώ.

Ενδιαφέρεστε να ενημερώσετε την ομάδα σχετικά με αυτές τις προκλήσεις από τη σκοπιά του κλάδου; Έχουν επίσης κυκλοφορήσει ένα RFI, όπου ελπίζουν να ακούσουν από εμπορικούς και μη κερδοσκοπικούς οργανισμούς που χρησιμοποιούν δεδομένα για την ανάπτυξη δυνατοτήτων AI.