AI не може ідентифікувати транс-і бінарних людей

Rain Dove п’є в барі і йому потрібно йти до ванної. Коли вона йде по коридору доступу, камера сканує обличчя, щоб розблокувати двері туалету відповідно до її статі. Які двері відчинить обличчя дощового голуба? Напевно, той, що в чоловічій кімнаті.

Дослідження Університету Колорадо в Боулдері, США, виявило, що велике програмне забезпечення для розпізнавання обличчя на основі штучного інтелекту не може визначити людей, які перебувають у транс-бінарних умовах.

У той час як чоловіки та жінки цисгендерів були класифіковані точно в 98% випадків, трансгендерні люди (які не ототожнюють свою стать за народженням) були підпорядковані приблизно 30% часу. Що стосується небінарників (які не ідентифікують себе як чоловіки чи жінки), машина пропустила всі спроби.

Для проведення опитування було зібрано 2450 фотографій облич в Instagram за допомогою хештегів #woman, #man, #transwoman, #transman, #agenderqueer та #nonbinary. Після видалення згрупованих чи напівприхованих облич решту поділили на групи з 350 зображень, які використовувались для тестування програм розпізнавання обличчя Rekogservation (Amazon), Watson (IBM), Azure (Microsoft) та Clarifai.

Штучний інтелект повторює забобони

Дослідники вважають, що алгоритми використовують застарілі стереотипи, що ще більше збільшує відсоток помилок. Приклад прийшов із самої команди: Один із дослідників, у якого довге волосся, половиною програмного забезпечення було віднесено до жіночого.

Гендерне дослідження не тільки зрозуміло: дослідження лабораторії MIT Media Lab, опубліковане в січні, вказує на те, що Рекогілляція визначила чорношкірих жінок як чоловіків у 30% часу, коли його звільняли. Хоча такі недоліки не виправлені, забобони з'являються в самих незвичних місцях: у 2015 році Google Photos, використовуючи штучний інтелект, позначила чорні селфі для користувачів як зображення горил.

AI не може ідентифікувати транс-і небінарних людей через TecMundo