Mitigar los riesgos de la IA generativa incorporando a los humanos al circuito

"No hay un caso de uso sostenible para la IA malvada".

Así es como la Dra. Rob Walker, un reconocido experto en inteligencia artificial y vicepresidente de toma de decisiones y análisis de Pega, fue coautor de un panel de discusión sobre IA fraudulenta en la conferencia PegaWorld iNspire de la semana pasada.

Había explicado la diferencia entre algoritmos opacos y transparentes. En un extremo del espectro de la IA, los algoritmos opacos operan a gran velocidad y precisión. El problema es que en realidad no podemos explicar cómo hacen lo que hacen. más o menos, para hacerlos más o menos inútiles para tareas que requieren responsabilidad, por ejemplo, tomar decisiones sobre hipotecas o solicitudes de préstamos.

Los algoritmos transparentes, por otro lado, tienen la ventaja de ser explicables. Simplemente son menos confiables. Es como una elección, dijo, entre que un médico te recete un tratamiento médico que puede explicártelo, o una máquina que no puede explicarlo, pero es más probable que sea correcto. Es una decisión, y no fácil.

Pero al final del día, dejar todas las decisiones a las herramientas de IA más poderosas a riesgo de volverlas inútiles es en realidad insostenible.

En la misma conferencia, el CTO de Pega, Don Schuerman, habló sobre una visión para Autopilot, una solución impulsada por IA para crear negocios autónomos. “Espero que en 2024 tengamos una variación de eso. Creo que eso requiere gobernanza y control”. De hecho, será así: pocos de nosotros, por ejemplo, queremos abordar un avión que solo tiene piloto automático y ningún ser humano al tanto.

hombre hasta la fecha

Mantener a un ser humano informado fue un mantra constante en la conferencia y subraya el compromiso de Pega con la IA responsable. En 2017, se lanzó Pega "T-Switch", que permite a las organizaciones aumentar o disminuir el nivel de transparencia en un dispositivo en una escala móvil para cualquier modelo de IA. “Por ejemplo, es de bajo riesgo utilizar un modelo opaco de aprendizaje profundo que clasifica las imágenes de marketing. Por el contrario, los bancos sujetos a reglas estrictas sobre prácticas justas de préstamo necesitan modelos de IA altamente transparentes para demostrar una contribución justa a los préstamos". ofrece " Pega explicó.

Sin embargo, la IA generativa conlleva un nivel de riesgo muy diferente, sobre todo para las funciones centradas en el cliente, como el marketing. En particular, a ella le importa un carajo si está diciendo la verdad o inventando algo ("alucinando"). Si es así, no está claro que estos riesgos sean inherentes a cada implementación de IA generativa y no sean específicos de las soluciones de Pega.

"Se trata de predecir lo que es más probable y plausible y lo que queremos escuchar", dijo Peter van der Putten, director de Pega AI Lab. Pero eso también explica el problema: “Podría decir algo y luego ser extremadamente bueno proporcionando explicaciones plausibles; también puede.” Retroceder.” En otras palabras, puede volver con una respuesta diferente, quizás mejor, cuando se le presenta el mismo problema dos veces.

Poco antes de PegaWorld, Pega anunció 20 "impulsores" generativos impulsados ​​por IA, incluidos chatbots Gen AI, flujos de trabajo automatizados y optimización de contenido. "Si miras de cerca lo que hemos traído al mercado", dijo Putten, "casi todos tienen un ser humano". Alta rentabilidad, bajo riesgo. Esa es la ventaja de desarrollar productos basados ​​en IA generativa en lugar de dar acceso a los humanos a la tecnología de IA generativa”.

Por lo tanto, Pega GenAI proporciona herramientas para resolver tareas específicas (con grandes modelos de lenguaje ejecutándose en segundo plano); no es solo un lienzo en blanco esperando la intervención humana.

Para algo así como una generación de chatbot impulsado por IA, la necesidad es que un humano tenga citas. "Creo que va a pasar un tiempo antes de que muchas empresas se sientan cómodas con la introducción de un gran modelo de chatbot de lenguaje directamente a sus clientes", dijo a Schuerman. "Cualquier cosa que cree la IA generativa, quiero que un ser humano la mire antes de presentársela al cliente".

Cuatro millones de interacciones por día

Pero incluir a un ser humano en el ciclo plantea preguntas sobre la escalabilidad.

Finbar Have, vicepresidente de Digital de la empresa holandesa de servicios financieros y panadería Rabobank, dijo en la conferencia que el Customer DeCision Hub de Pega procesa 1500 millones de interacciones al año para ellos, o alrededor de cuatro millones al día. El trabajo del centro es generar recomendaciones para la próxima acción, creando un recorrido del cliente sobre la marcha y en tiempo real. Por ejemplo, la siguiente mejor acción podría ser enviar un correo electrónico personalizado, y Gen AI ofrece la capacidad de crear dichos correos electrónicos casi al instante.

Se sugiere que cada uno de estos correos electrónicos debe ser aprobado por un humano antes de ser enviado. ¿Cuántos correos electrónicos son esos? ¿Cuánto tiempo tienen los especialistas en marketing para aprobar el contenido generado por IA?

El director ejecutivo de Pega juega 15 partidas de ajedrez simultáneas en PegaWorld 2023.

Quizás sea más manejable usar Pega GenAI para crear documentos comerciales complejos en una variedad de idiomas. En su discurso de apertura, el director de productos, Kerim Akgonul, demostró el uso de la IA para crear un flujo de trabajo de solicitud de préstamo complicado en turco. La plantilla tuvo en cuenta tanto las reglas comerciales globales como las regulaciones locales.

Mirando el resultado, Akgonul, quien es turco, pudo ver algunos errores. Por lo tanto, se necesita al hombre; pero no hay duda de que la generación de IA más el consentimiento humano parecía ser mucho más rápida de lo que podría ser la generación humana seguida del consentimiento humano.

Lo he escuchado de todos los gerentes de Pega que he entrevistado. Sí, la aprobación llevará tiempo y las empresas deberán adoptar la gobernanza, "mejores prácticas prescriptivas", como dice Schuerman, para garantizar que se aplique el nivel correcto de gobernanza, según el nivel de riesgo.

Es probable que este grado de control sea alto para el marketing en su función esencialmente orientada al cliente. Sin embargo, la esperanza y la promesa es que la automatización impulsada por IA siempre hará las cosas mejor y más rápido.

¡Consigue Aprendermarketing! A diario. Gratis. En tu bandeja de entrada.