La FTC investiga si ChatGPT pone en riesgo la privacidad de los usuarios

La comediante Sarah Silverman está demandando a la empresa matriz de Facebook, META, por su LLM, llamado LLaMa, y a Open AI, alegando infracción de los derechos de autor.

Dejando de lado las cuestiones legales, la acción de la FTC sugiere que información disponible en internet que podrías haber creado tú mismo, o que existe sobre ti, podría formar parte de la cantidad masiva de datos utilizados para entrenar a la IA.

Y la información que los bots de IA están acumulando podría no ser cierta.

Debido a fallas, como la que experimentó ChatGPT el 20 de marzo, también se divulgaron nombres, direcciones (en inglés) e información parcial de las tarjetas de crédito de un pequeño subgrupo de usuarios que estuvieron activos durante un período de nueve horas. Después de desconectar al chatbot de internet para solucionar el problema, OpenAI dijo más tarde esa semana que notificó a los usuarios afectados de que su información de pago podría haberse visto comprometida. 

Una de las cosas que la FTC está pidiendo que OpenAI describa en detalle son las medidas que la compañía ha tomado para abordar o reducir los riesgos de que sus LLM podrían generar declaraciones sobre personas que contengan “información personal real y precisa”, así como “declaraciones falsas, engañosas o difamatorias”.

¿La FTC investigará a otros desarrolladores de IA?

La acción de la FTC puede servir de aviso para que otras compañías de IA se mantengan alertas sobre sus prácticas de gestión y seguridad de datos.

Will Rinehart, investigador del Center for Growth and Opportunity, un grupo de investigación económica con sede en la Universidad Estatal de Utah, describió la carta como un acto de intimidación que es una advertencia para toda la industria de IA. Calificó de arriesgada la decisión de la FTC porque cree que “los avances logrados a partir del uso de la IA podrían impulsar la productividad de Estados Unidos”. 

El empresario multimillonario Elon Musk, cofundador de OpenAI que ya no está afiliado a la compañía, ha lanzado una empresa emergente rival, xAI, con el objetivo de crear una IA segura con una “curiosidad máxima” para entender la realidad. A pesar de invertir en empresas de inteligencia artificial, Musk ha expresado en el pasado su inquietud de que la IA podría destruir la civilización.

¿Recibiré dinero como resultado de esta investigación?

Es demasiado pronto para determinar cómo el escrutinio federal afectará a las personas mayores que usan ChatGPT. Pero parte de lo que la FTC está investigando es si “una compensación monetaria sería de interés público”.

Meta dominó los titulares recientemente después de haber acordado pagar $725 millones para resolver una demanda colectiva de 5 años relacionada con los datos de usuarios de Facebook que se compartieron indebidamente con otras empresas. Google acordó pagar una indemnización de $23 millones para resolver varias demandas colectivas relacionadas con la privacidad. 

Por lo tanto, el hecho de que las grandes empresas tecnológicas se vean obligadas a indemnizar a sus usuarios debido a sus anteriores prácticas de gestión de datos no es algo sin precedentes.

¿Cómo puedo reducir el riesgo a mi privacidad?

Por supuesto, puedes dejar de usar ChatGPT y otras IA generativas, o no empezar a usarlas. Pero eso no es posible para todos.

Para reducir tu riesgo si usas cualquier IA generativa, presta atención a los descargos de responsabilidad. OpenAI reconoce abiertamente que “ChatGPT puede producir información incorrecta sobre personas, lugares o hechos”. 

Y ten mucho cuidado con la información que compartas. Las personas jubiladas u otras personas mayores que se sientan aisladas pueden sentir que están conversando con un ser humano cuando están hablando con un chatbot de IA, dice Rory Mir, a cargo de la subdirección de organización comunitaria en el grupo de defensa de derechos Electronic Frontier Foundation, con sede en San Francisco.

El peligro: “Es posible que termines hablando más sobre temas más personales o sensibles de lo que te propusiste en un principio”, dice Mir. “Si usas un chatbot, siempre considera cualquier dato que ingreses como si fuera información pública”.