El gobierno canadiense está decidido a regular los chatbots basados en inteligencia artificial si las empresas tecnológicas no logran demostrar de manera convincente que implementan salvaguardas adecuadas para proteger a los usuarios canadienses.
Evan Solomon, ministro responsable de la inteligencia artificial, emitió esta advertencia al afirmar que la «falla» de OpenAI resultó en la ausencia de una notificación sobre un usuario canadiense de 18 años. Este individuo, posteriormente, llevó a cabo un tiroteo masivo en una escuela de Columbia Británica.
En junio del año pasado, Jesse Van Rootselaar utilizó ChatGPT durante varios días para describir escenarios de violencia armada. Según fuentes internas, estas publicaciones fueron identificadas por un sistema de monitoreo automatizado, lo que generó preocupación entre los empleados de OpenAI. Aproximadamente una docena de trabajadores de la empresa discutieron si debían tomar medidas con respecto a las publicaciones de Van Rootselaar. Algunos interpretaron sus escritos como posibles indicadores de violencia física real e instaron a la dirección a notificar a las autoridades canadienses. Sin embargo, la dirección de OpenAI decidió no contactar a las autoridades.
«Claramente hubo una omisión. Es una tragedia horrible. Nos han afectado profundamente los informes de que hubo una oportunidad de informar este caso a las fuerzas del orden. Queremos asegurar que cualquier empresa que tenga la oportunidad de hacerlo, la aproveche», declaró el ministro Solomon. El líder de política de OpenAI y otros seis representantes de la compañía se reunieron con funcionarios del gobierno en Ottawa el martes. Los ministros calificaron la reunión como «decepcionante».
Sean Fraser, ministro de Justicia, declaró: «Espero que OpenAI tome medidas de seguridad significativas. Si estas no se implementan muy pronto, el gobierno actuará», enfatizó. «La confianza debe ganarse. Realmente necesitamos ver qué cambios se esperan por parte de la empresa.»
OpenAI comunicó que ha reforzado sus medidas de seguridad y ha modificado sus políticas sobre cuándo se debe alertar a la policía en casos relacionados con actos de violencia.
Sin embargo, los ministros subrayaron que los canadienses esperan pasos concretos adicionales. OpenAI se comprometió a proporcionar información sobre nuevas medidas en los próximos días, mientras continúa apoyando a las fuerzas del orden y colaborando con el gobierno para mejorar la seguridad de la inteligencia artificial.
Jesse Van Rootselaar, de 18 años, abrió fuego el 10 de febrero en una escuela en Tumbler Ridge, Columbia Británica, acabando con la vida de ocho personas. La policía informó que Jesse Van Rootselaar fue encontrado muerto en el lugar, habiéndose quitado la vida. Van Rootselaar ya era conocido por la policía local antes del tiroteo. Las autoridades lo habían visitado en varias ocasiones en su residencia por problemas de salud mental, e incluso se le habían retirado armas temporalmente de la propiedad.