Ley pionera prohíbe funciones dañinas y exige verificación de edad en asistentes de IA
La gobernadora de Nueva York, Kathy Hochul, firmó una ley que prohíbe a los chatbots de inteligencia artificial (IA) ciertas funciones perjudiciales para menores de 18 años, como promover el suicidio o el consumo de drogas. La medida, descrita como pionera en EE. UU., establece obligaciones para las empresas y sanciones de hasta 25,000 dólares por infracción.
La legislación exige que las empresas propietarias de los chatbots verifiquen la edad de los usuarios más allá de una identificación oficial y, en caso de confirmar que son menores, bloqueen funciones 'dañinas', según un comunicado. Entre las prohibiciones concretas, un chatbot dirigido a un menor no podrá 'fingir ser una persona real, estar vivo o tener emociones humanas', afirmar que tiene una relación 'personal, romántica, profesional o de autoridad' con este, u ofrecer 'contenido sexualmente explícito'.
Asimismo, se prohíbe a los chatbots 'promover o ayudar con el suicidio, la autolesión, los trastornos alimenticios o el consumo de drogas y alcohol', e incitar a los menores a 'guardar secretos, aislarse o evitar pedir ayuda a sus padres, adultos de confianza o profesionales'. Tampoco podrán hacer al menor preguntas emocionales no solicitadas ni utilizar su información privada de salud o personal obtenida en conversaciones anteriores.
Las infracciones pueden facultar a la Fiscalía general del estado para solicitar sanciones civiles de hasta 25,000 dólares cada una, indemnizaciones, restitución, la destrucción de los datos recopilados ilegalmente o de cualquier modelo de IA entrenado con ellos. La medida llega después de varios casos sonados en Estados Unidos y otros países en los que menores usaron a los chatbots de IA como confidentes y murieron por suicidio.
Según datos de Commons Media citados por la gobernadora, el 72 % de adolescentes ha usado un asistente de IA al menos una vez, y el 52 % son usuarios habituales que interactúan varias veces al mes. Para los lectores dominicanos, la ley neoyorquina marca un precedente sobre cómo regular estas herramientas y proteger a los menores en el entorno digital.
