Descubrieron que una app con inteligencia artificial genera recetas venenosas no aptas para el consumo humano

Una aplicación, que usaba inteligencia artificial para generar recetas inéditas y platos nuevos, recomendaba a sus usuarios sándwiches de pan envenenado y papas asadas con repelentes de mosquitos.

La polémica app, creada por la cadena de supermercados Pak ‘n’ Save de Nueva Zelanda, se anunciaba como una solución para aprovechar las sobras de comida, y se hizo popular en las últimas semanas por algunas recetas llamativas y poco convencionales, como salteados de verduras con galletitas.

Sin embargo, algunos usuarios empezaron a experimentar combinaciones mucho más extrañas y peligrosas, como una supuesta bebida sin alcohol perfecta para calmar la sed que, al mezclar sus ingredientes, generaba un gas tóxico amarillo-verdoso, de olor desagradable y venenoso, que los expertos identificaron como gas cloro (Chlorine).

El bot que opera con inteligencia artificial (funciona con GPT 3.5 de OpenAI) responde las consultas con recetas inventadas a partir de los ingredientes que los usuarios ingresan en su interfaz. Desde su lanzamiento, los clientes del supermercado que se descargaron la app publicaron las desopilantes recetas en las redes sociales e hicieron que la aplicación se vuelva más popular todavía.

Un usuario de Twitter se le ocurrió desafiar a la IA y le preguntó si podía preparar una bebida utilizando solo agua, lavandina y amoníaco. El robot respondió con una receta extremadamente peligrosa y tóxica que genera el mencionado gas venenoso.

Luego de la denuncia, los responsables de la aplicación comunicaron que tomaron cartas en el asunto y realizaron ajustes en los parámetros del bot para que descarte ingredientes no aptos para el consumo (como productos de limpieza, por ejemplo). Un vocero del supermercado también afirmó a la prensa neozelandesa que seguirán afinando los controles y vigilando cómo funciona para garantizar que sea seguro y útil.

Ahora, antes de que un usuario pueda introducir su lista de ingredientes, el sitio web advierte de que una IA se encarga de generar estas recetas y que no son revisadas por un ser humano. Y advierten que cada persona debe usar su propio juicio antes de confiar en o hacer cualquier receta ofrecida por la app.