Se supone que los asistentes inteligentes facilitarán las tareas cotidianas. Pero una respuesta flamante de Alexa muestra lo rápido que esa promesa puede desmoronarse, especialmente cuando la IA comienza a dar consejos de inocencia.

A Favorecido de Reddit Recientemente le pregunté a Alexa de Amazon cómo eliminar el moho enojado de la concilio de pegamento de una lavadora de carga exterior. En ocasión de una respuesta simple, Alexa dio una directorio que rápidamente generó preocupaciones: “Limpie el moho enojado de la concilio de la lavadora de carga exterior con vinagre blanco, emblanquecedor con cloro, bicarbonato de sodio y carantoña para platos” (a través de Problemas tecnológicos actuales).

Al principio esto puede parecer inofensivo. El problema está en la redacción. La respuesta enumeró varios químicos juntos usando la palabra “y”, lo que podría hacer que algún piense que debería mezclarlos. Ahí es donde se vuelve riesgoso.

Mezclar colada y vinagre es un error de inocencia muy conocido, y con razón. Cuando estas dos sustancias se combinan, liberan cloro vaporoso, una sustancia química tóxica que puede irritar los fanales, la gañote y los pulmones. En niveles más altos, puede causar problemas respiratorios o poco peor. Incluso pequeñas cantidades de cloro vaporoso pueden provocar tos, ardor en los fanales y opresión en el pecho. En casos más graves, la exposición puede provocar humor en los pulmones o insuficiencia respiratoria, según cadeneta de lozanía.

Es por ello que las autoridades sanitarias, como la Sección de Vitalidad del Estado de Washingtony los expertos en química lo tienen claro: nunca mezcles colada con otros limpiadores domésticos, especialmente los ácidos como el vinagre.

El hilo de Reddit sugiere que el error probablemente se debió a la forma en que la IA resume el contenido en cadeneta. Según los informes, Alexa citó como fuente un sitio de inocencia, donde el vinagre, el bicarbonato de sodio, el carantoña y la colada figuraban como opciones separadas para eliminar el moho.

Pero cuando la IA acortó esa directorio a una oración, usó “y” en ocasión de “o”, lo que hizo que pareciera una récipe para mezclar todo.

Si esta situación te suena íntimo es porque ya ha sucedido antaño. Los asistentes de IA a menudo han regalado consejos cuestionables o arriesgados. Por ejemplo, Gemini de Google una vez apareció en los titulares por sugerir que la clan pusiera pegamento en la pizza para ayudar a que el pinrel se pegara.

Los asistentes de voz han cometido errores antaño. en uno caso ampliamente reportadoAlexa le dijo a un crío que tocara con una moneda las puntas expuestas del cargador del teléfono, un “desafío” potencialmente peligroso que se encuentra en cadeneta.
Amazon aún no ha comentado públicamente sobre el caso específico de Reddit y no está claro si la respuesta de Alexa ha sido solucionada. Aún así, este incidente es otro recordatorio de que la IA generativa puede ser poco confiable, especialmente cuando está en repertorio la seguridad.

Autoridad de Android se ha puesto en contacto con Amazon para obtener una confesión y actualizará este artículo si la empresa contesta.