News – United States – Timnit Gebru: Google and big tech are “ institutionally racist ” – BBC News – SamfordCrimson News

Durée publiée il y a 27 minutesPartagerSharenoclosePartager pagelinkCopier le lienÀ propos du partage de la légende du médiaWATCH: Timnit Gebru accuse Google et le secteur technologique plus large de racisme institutionnel

Timnit Gebru, un informaticien très influent en intelligence artificielle, est au centre d’une course qui a englouti le personnel de recherche en IA de Google et suscité des passions au-delà

Elle dit avoir été licenciée par Google après avoir contesté un article académique qu’elle avait co-écrit

Le document s’est concentré sur les problèmes liés aux modèles de langage de l’IA – y compris les préjugés structurels contre les femmes et les personnes appartenant à des minorités ethniques

Une lettre ouverte demandant de savoir pourquoi le document a été rejeté a été signée par plus de 6000 people, y compris d’éminents chercheurs de Google et de sa division DeepMind ainsi que de Microsoft, Apple, Facebook, Amazon et Netflix, among others

Le directeur général de Google, Sundar Pichai, a écrit dans un mémo: “Nous devons accepter la responsabilité du fait qu’une éminente dirigeante noire, dotée d’un immense talent, a quitté Google malheureusement.

“Il est extrêmement important pour moi que nos googleurs noirs, femmes et sous-représentés sachent que nous vous apprécions et que vous appartenez à Google”

Il a ajouté que la société enquêterait sur la manière dont elle traiterait l’affaire mais s’est abstenue de s’excuser pour le départ du Dr Gebru.

Le Dr Gebru est loin d’être satisfait de cette réponse et s’est maintenant entretenu avec la BBC L’interview suivante a été modifiée par souci de concision et de clarté

Comment avez-vous vécu ces dernières semaines sur le plan personnel?

Le document portait sur les considérations éthiques de la recherche sur le développement et du développement de grands modèles linguistiques – dont l’un était le biais

Secondly, imaginez si c’était vrai – allez-vous vraiment justifier le licenciement de quelqu’un de la façon dont il m’a mis fin parce que l’article ne contenait pas de revue de littérature?

Pensez-vous que Google vous aurait traité différemment si vous étiez un homme blanc?

Dans tous les cas que j’ai vus dans le passé, they [Google] s’efforcent de ne pas en faire un titre

Quand c’est une autre personne qui est toxique, il y a toujours ces conversations sur: “Oh, mais vous savez, ils sont si précieux pour l’entreprise, ils sont un génie, ils sont juste socialement maladroits, et cetera”

Je suppose que si vous pensez cela, la prochaine question évidente est de savoir si Google lui-même est institutionnellement raciste?

C’est une chose à dire – vous étiez un employé de Google jusqu’à il y a peu de temps

Le Congressional Black Caucus est celui qui les force à publier leurs chiffres sur la diversité

Ce n’est pas par hasard que les femmes noires ont l’un des taux de rétention les plus bas [, dans l’industrie de la technologie]

Ce qu’ils doivent faire, c’est être à l’aise avec ce genre de discussions inconfortables – ne faites pas taire les gens, ne ripostez pas contre eux

Ce qu’ils font, c’est dire: “OK, nous allons avoir un comité aléatoire” or: “Nous allons investir un certain nombre de millions de dollars dans quelque chose”

Mais quand il s’agit de quelqu’un qui conteste le statu quo de la manière la plus légère possible, voyez-vous ce qui vient de se passer?

Je pense donc que c’est très difficile pour moi de croire qu’ils se soucient de la diversité

Sundar Pichai s’est excusé pour les circonstances de votre départ mais pas pour le départ lui-même Comment te sens tu à propos de ça?

Il a dit que cela a semé le doute parmi certains membres de notre communauté, qu’ils ont l’impression de ne pas appartenir

Therefore, il ne dit pas: “Je suis désolé pour la façon dont nous avons géré cela Nous avions tort Je suis désolé pour ce que nous lui avons fait, “- rien

Je considère que c’est une déclaration qui devait être faite pour leur donner une meilleure apparence,

Comment voyez-vous l’IA évoluer? Vous inquiétez-vous de la discrimination raciale dans l’IA?

copyright de l’imageGetty Imagesimage captionLe Dr Gebru s’est fait connaître pour avoir révélé à quel point les principaux algorithmes de reconnaissance faciale étaient pires classant le sexe des femmes et des personnes de couleur que les visages masculins blancs

Certainement – et beaucoup de gens ont dit qu’ils pensaient que la prochaine frontière de la discrimination … se situe dans ce genre de domaine technologique de l’IA

Et moi et beaucoup de femmes – surtout noires – avons écrit à ce sujet et avons même enseigné à ce sujet

À moins qu’il y ait une sorte de changement de pouvoir, où les personnes les plus touchées par ces technologies sont également autorisées à les façonner et à être en mesure d’imaginer à quoi ces technologies devraient ressembler à partir de zéro et de les construire en fonction de cela , à moins que nous n’allions vers ce genre d’avenir, je crains vraiment que ces outils soient utilisés pour plus de mal que de bien

Il a refusé de commenter, mais a dirigé BBC News vers la note de service de M. Pichai et une déclaration du directeur de Google AI, Jeff Dean, soulevant des inquiétudes concernant les “lacunes” dans le document de recherche du Dr Gebru.

James Clayton est le journaliste de la BBC en Amérique du Nord basé à San Francisco Suivez-le sur Twitter @ jamesclayton5

ChanvreStashActualités

|

Google, artificial intelligence, Sundar Pichai, biais algorithmique, algorithm, racisme, machine learning, BBC News