Recientemente, el regulador del Reino Unido ha expresado preocupaciones sobre el chatbot de inteligencia artificial (IA) de Snap, afirmando que podrÃa poner en riesgo la privacidad de los niños. La Oficina del Comisionado de Información (ICO, por sus siglas en inglés), el organismo encargado de la protección de la privacidad en el paÃs, emitió una notificación preliminar de cumplimiento contra la compañÃa debido a la posible falta de evaluación de los riesgos de privacidad que plantea su chatbot de IA generativa llamado "My AI". El Comisionado de Información, John Edwards, ha señalado que las conclusiones provisionales de la investigación del ICO indican una "preocupante falta de identificación y evaluación adecuada de los riesgos de privacidad para los niños y otros usuarios" por parte de Snap antes de lanzar My AI. El ICO ha destacado que, si Snap no aborda satisfactoriamente estas preocupaciones, podrÃa bloquear el chatbot en el Reino Unido. Sin embargo, es importante tener en cuenta que la notificación preliminar no implica necesariamente que el ICO tomará medidas legales contra Snap o que la compañÃa haya violado las leyes de protección de datos. El ICO evaluará las respuestas proporcionadas por Snap antes de tomar una decisión final.
My AI es un chatbot impulsado por ChatGPT, una tecnologÃa de inteligencia artificial desarrollada por OpenAI. Snap introdujo My AI en su plataforma Snapchat en febrero de este año, inicialmente disponible para suscriptores de Snapchat+. Posteriormente, se habilitó para todos los usuarios en el Reino Unido en abril. Sin embargo, poco después de su lanzamiento, los padres expresaron preocupaciones no solo sobre la privacidad, sino también sobre la capacidad de enseñar a los niños a diferenciar emocionalmente entre humanos y máquinas.
Snap ha afirmado que My AI pasó por un riguroso proceso de revisión legal y de privacidad antes de estar disponible para el público. Un portavoz de Snap ha declarado que la compañÃa continuará trabajando de manera constructiva con el ICO para asegurarse de que estén satisfechos con los procedimientos de evaluación de riesgos.
Según el ICO, en mayo de este año, Snapchat tenÃa 21 millones de usuarios activos mensuales en el Reino Unido, muchos de los cuales se encuentran entre las edades de 13 y 17 años. El regulador ha destacado que My AI es la primera instancia en la que se añade un sistema de IA generativa a una plataforma de mensajerÃa importante en el paÃs.