Facebook acuerda revisar adtech por acusaciones de discriminación

La empresa matriz de Facebook, Meta, está lista para revisar su sistema de publicidad dirigida luego de las acusaciones que permitieron a los propietarios publicar anuncios discriminatorios. un asentamiento en expansión en una demanda de la Ley de Vivienda Justa anunciada el martes por el Departamento de Justicia de los Estados Unidos.

Esta es la segunda vez que la empresa resuelve una demanda por discriminación en adtech.Sin embargo, el acuerdo de ayer va más allá que el anterior: pide a la empresa que revise su herramienta de segmentación de anuncios, Lookalike Audiences, que hace posible colocar anuncios para apartamentos de manera específica en función de la raza, el género, la religión u otras características sensibles que permitan la discriminación.

Obtenga el boletín diario con el que cuentan los especialistas en marketing digital.

"Como resultado de esta histórica demanda, Meta modificará, por primera vez, su sistema de publicación de anuncios para abordar la discriminación algorítmica", dijo Damian Williams, fiscal federal. dijo en un comunicado"Pero a menos que Meta pueda demostrar que ha modificado su sistema de entrega lo suficiente como para evitar el sesgo algorítmico, esta oficina procederá con el litigio".

Facebook necesita construir un nuevo sistema de anuncios que asegure que los anuncios de vivienda se entreguen a una combinación más equitativa de personas. También debe someter el sistema a un tercero para su revisión y pagar una multa de $115,054, la multa máxima permitida por la ley.

Leer a continuación: Las grandes marcas se comprometen a mitigar el sesgo de la tecnología publicitaria

Este nuevo sistema utilizará el aprendizaje automático para corregir el sesgo. "Funciona para garantizar que la edad, el género y la raza o etnia estimada de la audiencia general de un anuncio de apartamento coincidan con la edad, el género y la raza o etnia estimada de la población con derecho a ser vista por ese anuncio". La compañía lo anunció en un comunicado..

Sin valor. un MIT Estudio publicado en marzo encontró que "los modelos de aprendizaje automático, que son populares para tareas de reconocimiento de imágenes, de hecho codifican sesgos cuando se entrenan con datos desequilibrados. Este sesgo dentro del modelo es irreparable más tarde, incluso con las técnicas más modernas para aumentar la equidad, e incluso si ese modelo es reentrenado con un conjunto de datos balanceado.” A principios de este mes El MIT ha publicado un estudio Encontró que "los métodos explicativos diseñados para ayudar a los usuarios a determinar si confiar en las predicciones de un modelo de aprendizaje automático pueden perpetuar el sesgo y dar como resultado predicciones menos precisas para las personas de grupos desfavorecidos".

Por qué nos importa. El sesgo de Adtech recibe mucha atención, necesita más El mismo día que el acuerdo de Facebook, una coalición de grandes marcas, la IAB y el Ad Council anunciaron un plan para abordar el problema que conduce a la discriminación involuntaria. También pueden reforzar la discriminación intencional. Ya sea intencional o no, los efectos de la discriminación son reales y tienen un gran impacto en la sociedad en su conjunto. La tecnología no puede arreglar esto. El aprendizaje automático y la IA pueden sufrir los mismos sesgos que sus programadores. Este es un problema creado por los humanos y solo los humanos pueden solucionarlo.

Sobre el Autor

Constantine von Hoffman es el editor en jefe de MarTech. Periodista veterano, Con ha cubierto negocios, finanzas, marketing y tecnología para CBSNews.com, Brandweek, CMO e Inc. Fue editor de la ciudad del Boston Herald, productor de noticias en NPR, y ha escrito para Harvard Business Review, Boston Magazine, Sierra y muchas otras publicaciones. También fue un comediante profesional, hablando en convenciones de anime y juegos sobre todo. desde Mi vecino Totoro hasta la historia de los dados y los juegos de mesa, es el autor de la novela de realismo mágico John Henry the Revelator y vive en Boston con su esposa Jennifer y demasiados o muy pocos perros.