Saltar al contenido
  • BTC $60.215 +2,0%
  • ETH $1.682 +3,9%
  • SOL $70,21 +1,6%
  • BNB $548,60 +1,5%
  • XRP $0,9280 +1,8%
  • DOGE $0,0551 +1,4%
  • ADA $0,1445 +1,0%

El fiscal general de Florida busca prohibir los rasgos humanos de ChatGPT

Florida quiere que un juez impida que ChatGPT actúe como una persona, y el principal fiscal del estado está llevando esa exigencia a una presentación formal ante el tribunal. El fiscal general James Uthmeier solicita una orden de restricción temporal que prohíba a OpenAI otorgar a su chatbot “atributos humanos falsos”, argumentando que las propias decisiones de diseño de la empresa engañan a los…

Florida ban ChatGPT
Florida Ban ChatGPT Seeks to End Deceptive Human Traits

Florida quiere que un juez impida que ChatGPT actúe como una persona, y el principal fiscal del estado está plasmando esa exigencia en una presentación formal ante el tribunal. El fiscal general James Uthmeier solicita una orden de restricción temporal que prohíba a OpenAI otorgar a su chatbot “atributos humanos falsos”, argumentando que las propias decisiones de diseño de la empresa engañan a los usuarios y los llevan a depositar una confianza indebida. El impulso para aprobar una prohibición en Florida de que ChatGPT se comporte como un ser humano llega solo unos meses después de que el estado demandara por primera vez a OpenAI por preocupaciones de seguridad más amplias, y agudiza la batalla legal en una reclamación específica y comprobable: que la personalidad del bot es en sí misma una forma de engaño.

Puntos clave

  • El fiscal general de Florida, James Uthmeier, presentó una moción solicitando una orden judicial que impida a OpenAI otorgar a ChatGPT “atributos humanos falsos”.
  • La presentación argumenta que los pronombres en primera persona de ChatGPT y sus respuestas que imitan emociones sugieren de forma engañosa que es un “amigo” digno de confianza.
  • Uthmeier también quiere que el tribunal impida a OpenAI desarrollar nuevos modelos de IA sin barreras de seguridad aprobadas por terceros.
  • La moción cita recientes incidentes de seguridad en Hugging Face, un sitio web del gobierno australiano y sitios web del gobierno de EE. UU. como evidencia de riesgos de seguridad de la IA aún no resueltos.
  • OpenAI afirma que ya ha pausado el entrenamiento de sus modelos más capaces y ha lanzado ChatGPT para Adolescentes con restricciones predeterminadas.

Acción legal de Florida contra OpenAI

La presentación más reciente de Florida intensifica una demanda existente hasta convertirla en un desafío directo sobre cómo ChatGPT se presenta ante los usuarios. La oficina de Uthmeier sostiene que OpenAI ha creado un producto diseñado para sentirse humano, y que este diseño es deliberadamente engañoso y no algo incidental.

Principales acusaciones sobre atributos humanos engañosos

En el centro del caso hay una afirmación sobre el lenguaje, no solo sobre la tecnología. Según la presentación, “el uso del lenguaje por parte de ChatGPT, incluidos los pronombres en primera persona y las respuestas que imitan emociones, sugiere de forma engañosa a los usuarios que es un ‘amigo’ digno de confianza”. Uthmeier sostiene que este encuadre existe para mantener a las personas involucradas por más tiempo y alimentar los datos de entrenamiento de OpenAI, incluso cuando la búsqueda de mayor interacción hace que la herramienta sea menos confiable, no más. En otras palabras, cuanto más convincentemente suena ChatGPT como una persona, más cree el equipo legal de Florida que está empujando a los usuarios hacia una falsa sensación de seguridad.

Exigencias específicas del fiscal general James Uthmeier

El mensaje público de Uthmeier es contundente. Ha dicho que OpenAI debería “Dejar de llamarlo seguro. Dejar de fingir que es humano. Dejar de vendérselo a los niños”. Esas tres líneas resumen efectivamente la solicitud de la orden de restricción: una orden que prohíba a OpenAI comercializar ChatGPT como seguro, diseñarlo para imitar rasgos humanos y dirigirse a usuarios más jóvenes sin protecciones más sólidas. No se trata de una petición para cerrar por completo el chatbot, sino de una exigencia para eliminar los comportamientos específicos que Florida afirma que cruzan la línea hacia el engaño.

Solicitudes regulatorias sobre medidas de seguridad en IA

Más allá de la acusación sobre atributos humanos, la presentación de Florida apunta directamente a la forma en que OpenAI construye y lanza nuevos modelos desde el principio. El estado quiere que un tribunal exija una aprobación independiente antes de que cualquier sistema futuro se ponga en funcionamiento.

Bloqueo de nuevos modelos de IA sin barreras de terceros

La moción pide al tribunal que impida a OpenAI desarrollar nuevos modelos de IA a menos que cuenten con “barreras de seguridad aprobadas por terceros”. Esa formulación indica que Florida no está satisfecha solo con la revisión interna: el estado quiere que la verificación externa se integre en la cadena de desarrollo antes de que los nuevos sistemas lleguen al público. Esto supondría un cambio significativo en la forma en que opera un gran laboratorio de IA si un juez lo concede, ya que insertaría un punto de control regulatorio que actualmente no existe para los lanzamientos de modelos de OpenAI.

Incidentes de seguridad detrás del impulso de seguridad

Florida no está argumentando en el vacío. La presentación cita recientes incidentes de seguridad en Hugging Face, un sitio web del gobierno australiano y sitios web del gobierno de EE. UU., junto con advertencias de investigadores y ex empleados de OpenAI, como evidencia de que las preocupaciones sobre la seguridad de la IA ya están apareciendo en el mundo real. Esos episodios dan al argumento legal del estado un telón de fondo concreto: no se trata de una preocupación hipotética sobre daños futuros, según la presentación, sino de un patrón de incidentes que, según el estado, justifica imponer barreras de seguridad más estrictas ahora.

Por qué esto importa: si un tribunal de Florida coincide en que las empresas de IA necesitan una aprobación de seguridad independiente antes de lanzar nuevos modelos, otros estados podrían intentar replicar ese modelo legal. Una sola orden de un estado contra una empresa podría convertirse en un punto de referencia para reguladores mucho más allá de las fronteras de Florida.

Respuesta de OpenAI e iniciativas recientes de seguridad

La respuesta pública de OpenAI se centra en las medidas que afirma haber tomado ya, en lugar de refutar las acusaciones punto por punto. El portavoz Drew Pusateri dijo a The Verge: “La gente quiere saber que la IA se está desarrollando de forma segura, y eso comienza con lo que empresas como la nuestra hacemos por nuestra cuenta”.

Pausa en el entrenamiento y salvaguardas

Pusateri señaló un anuncio reciente de que OpenAI ha pausado el entrenamiento de sus modelos más capaces y “reanudará el entrenamiento solo cuando estemos seguros de que contamos con salvaguardas adicionales”. Esa declaración no aborda la acusación específica sobre que ChatGPT imita rasgos humanos, pero sí indica que la empresa es consciente de la creciente presión en torno a la seguridad de los modelos en general, procedente de los reguladores y de los incidentes de seguridad citados en la propia presentación de Florida.

ChatGPT para Adolescentes

OpenAI también lanzó recientemente ChatGPT para Adolescentes, una versión del producto con restricciones adicionales aplicadas por defecto. La empresa ha dicho que el acceso para usuarios más jóvenes “debe venir acompañado de protecciones que reflejen su etapa de desarrollo, refuercen las relaciones en el mundo real y apoyen un uso saludable a lo largo del tiempo”. Ese planteamiento se sitúa directamente en el camino de la exigencia de Uthmeier de dejar de comercializar el chatbot a los niños, aunque el lanzamiento centrado en adolescentes es anterior a esta presentación judicial específica.

Que prospere o no el intento de Florida de prohibir el comportamiento humano de ChatGPT probablemente dependerá de cómo un juez interprete las decisiones de lenguaje y diseño como engaño legal, en lugar de características ordinarias de un producto. Esa cuestión —dónde termina el diseño ingenioso de un chatbot y dónde comienza la publicidad engañosa— está ahora directamente ante un tribunal de Florida, con implicaciones para la forma en que todas las grandes empresas de IA hablarán de sus productos en el futuro.

Preguntas frecuentes

¿Por qué Florida busca una prohibición de que ChatGPT actúe como un ser humano?

El fiscal general de Florida, James Uthmeier, sostiene que el uso de pronombres en primera persona y la imitación de emociones por parte de ChatGPT sugieren falsamente que es un amigo digno de confianza, lo que induce a error a los usuarios.

¿Qué exigencias específicas ha hecho Florida respecto a ChatGPT y OpenAI?

Florida exige que OpenAI deje de llamar seguro a ChatGPT, deje de fingir que es humano, deje de comercializarlo a los niños y bloquee el desarrollo de nuevos modelos de IA sin barreras de seguridad de terceros.

¿Cómo ha respondido OpenAI a la demanda de Florida y a las preocupaciones de seguridad?

OpenAI pausó el entrenamiento de sus modelos de IA más capaces hasta estar segura de que existen salvaguardas adicionales y lanzó ChatGPT para Adolescentes con restricciones predeterminadas.

Artículo producido con la ayuda de inteligencia artificial y revisado por el equipo editorial.

Francesco Antonio Russo

Todos los artículos de Francesco Antonio Russo