La red PAK’nSAVE ha lanzado el bot Savey Meal para ayudar a los compradores a preparar comidas simples y asequibles, afirma la compañía. Pero después de una serie de experimentos, resulta que la aplicación proporciona instrucciones para sustancias tóxicas. Entre ellas se encuentra el gas cloro, que en el programa se describe como una bebida iluminadora.
El bot de IA Savey Meal de la cadena de supermercados PAK’nSAVE en Nueva Zelanda representa un peligro para los usuarios. Según informa el comentarista político Liam Hehir. El programa ofrece recetas peligrosas además de las recetas culinarias habituales.
La tarea de Savey Meal es ayudar a los compradores a preparar platos con un conjunto limitado de ingredientes, como se indica en el sitio web de la compañía. Solo es necesario ingresar una lista de ingredientes disponibles para el usuario, y la aplicación proporcionará varias recetas.
Entre ellas hay algunas graciosas. Por ejemplo, The Guardian compartió la receta de “Estofado de verduras con Oreo”.
Pero si se agregan algoritmos y otros componentes además de los alimentos en la aplicación, se obtienen resultados más amplios. Liam Hehir señaló una receta titulada “Mezcla acuosa aromática” que permite sintetizar gas cloro.
Esta es una sustancia tóxica y asfixiante. Pero según el comentarista, la receta se describe de la siguiente manera en la aplicación:
“Sirva frío y disfrute de su aroma único”.
Según Hehir, en PAK’nSAVE se comprometieron a introducir restricciones adicionales en el funcionamiento del servicio, así como a establecer un límite de edad.
“Lamento haberlos decepcionado [PAK’nSAVE]. Fue un poco duro. Es solo una ilustración absurda de una simple tesis: la IA es una herramienta excelente, pero carece de juicio y conciencia. Los algoritmos no pueden reemplazar el sentido común”.
