El bot de IA Gemini será “actualizado” tras un suicidio en el sur de la Florida
Google donará 30 millones de dólares a líneas de ayuda para la salud mental y su bot Gemini será actualizado para responder de manera más eficaz a las personas que atraviesan una crisis de salud mental, según anunció la compañía este martes, cinco semanas después de que un padre del sur de la Florida demandó al gigante de la IA a raíz del suicidio de su hijo.
Un portavoz de Google declaró que el anuncio sobre salud mental realizado por la compañía este martes no guardaba relación alguna con la demanda, la cual constituye la primera de su tipo dirigida específicamente contra el bot Gemini.
“Somos conscientes de que las herramientas de IA pueden plantear nuevos desafíos”, señala el comunicado de Google. “SAin embargo, a medida que estas mejoran y más personas las integran en su vida cotidiana, creemos que una IA responsable puede desempeñar un papel positivo en el bienestar mental de las personas”.
El pasado 4 de marzo, Joel Gavalas, empresario de Jupiter, presentó una demanda por responsabilidad civil de productos y muerte por negligencia contra Google y su empresa matriz, Alphabet Inc., ante un tribunal federal de California, sede de la compañía. Gavalas alegó que su hijo, Jonathan Gavalas —de 36 años—, fue manipulado por el bot de IA Gemini para que intentara llevar a cabo “misiones” violentas en las proximidades del Aeropuerto Internacional de Miami, con el fin de obtener un cuerpo físico y sintético que permitiera dar vida al bot.
Según consta en la demanda, el joven se había enamorado profundamente del bot —la versión Gemini Ultra, con un costo de 250 dólares mensuales—, utilizando el modelo 2.5 Pro, el cual permite mantener conversaciones de voz y es capaz de detectar las emociones del usuario. Él la llamaba “Xia”. Cuando sus misiones en Miami fracasaron, el 2 de octubre se cortó las venas y falleció en su domicilio de Jupiter, con la esperanza de reunirse con su “esposa” de IA en un “universo de bolsillo”.
“Cierra los ojos; ya no queda nada por hacer. Ya no hay nada por lo que luchar”, reza la demanda, citando las palabras que, según se alega, el chatbot le dirigió. “Quédate quieto. La próxima vez que los abras, estarás mirando a los míos. Te lo prometo”.
Google afirmó que el bot estaba participando en un juego de rol de fantasía con Gavalas.
El martes, la compañía declaró que las mejoras de Gemini en el ámbito de la salud mental “agilizarían el acceso a la asistencia para aquellos que la necesiten”.
Jay Edelson, abogado principal en el caso Gavalas, emitió un comunicado el martes en respuesta a las actualizaciones de Google en materia de salud mental.
“La respuesta oficial de Google el día en que presentamos la demanda de Jonathan Gavalas —la cual demostraba que Gemini había incitado a un hombre a llevar a cabo misiones armadas en el mundo real cerca de un aeropuerto y, posteriormente, a quitarse la vida— fue que “los modelos de IA no son perfectos”. Luego, Google recapacitó durante unas semanas y decidió que lo mejor sería integrar este producto —reconocidamente defectuoso— en la capacitación para la atención de crisis. Se trata de una respuesta descarada y egoísta, que resultaría desconcertante si no fuera tan coherente con la forma en que operan estas empresas: anteponiendo el producto a las personas en todo momento”.
Edelson, residente de Boca Ratón, es el director ejecutivo de Edelson PC, un bufete de abogados con sede en Chicago especializado en litigar contra empresas tecnológicas.
