El Departamento de Eficiencia del Gobierno de Elon Musk (DOGE) ha lanzado silenciosamente una versión adaptada de su chatbot Grok AI en las agencias federales, lo que ha generado alarmas sobre posibles violaciones de privacidad y conflictos de interés.
Reuters citó a tres fuentes dentro de DOGE que dijeron que el equipo ha estado utilizando Grok para filtrar y analizar datos gubernamentales sensibles, generando informes e información a velocidades más allá de los métodos tradicionales.
DOGE infringe la ética con el movimiento de Grok AI
Según tres informantes, los ingenieros de DOGE instalaron parámetros personalizados sobre Grok, un chatbot que xAI de Musk lanzó a finales de 2023, para acelerar la revisión de datos y automatizar la redacción de informes.
"Alimentan con conjuntos de datos gubernamentales, hacen preguntas complejas y obtienen resúmenes instantáneos."
Un Insider.
Otro informante añadió que el personal de DOGE había animado a los empleados del Departamento de Seguridad Nacional a usar Grok para análisis internos a pesar de que la herramienta carecía de la aprobación formal de la agencia.
Lo que no está claro es exactamente qué información clasificada o personalmente identificable se ha subido a Grok o con qué intensidad se ha entrenado en registros federales. Si se incluyera material sensible, la práctica podría violar las leyes federales de privacidad y las reglas de conflicto de interés.
Cinco expertos en ética y tecnología advierten que dicho acceso podría otorgar a las empresas de Musk una visión desproporcionada de los datos de contratación no públicos e incluso ayudar a perfeccionar a Grok mismo para beneficio privado.
En teoría, cualquier modelo de IA entrenado en conjuntos de datos confidenciales del gobierno debe navegar estrictas salvaguardias legales. Los protocolos de intercambio de datos generalmente implican múltiples aprobaciones y supervisión para prevenir la divulgación no autorizada.
Al eludir esos controles, DOGE arriesga exponer los detalles personales de millones de estadounidenses y entregar a xAI un tesoro de información del mundo real que no está disponible para sus competidores.
DOGE insiste en que su misión es erradicar el desperdicio, el fraude y el abuso. Un portavoz del DHS dijo a Reuters que DOGE nunca presionó al personal para adoptar ninguna herramienta específica.
“Estamos enfocados en la eficiencia”, dijo el portavoz. Pero dos fuentes contradicen eso, ya que en las últimas semanas, los representantes de DOGE han presionado a las divisiones de DHS para que piloten Grok para tareas que van desde el análisis de cargas de casos de inmigración hasta la previsión presupuestaria, incluso después de que DHS bloqueara abruptamente todas las plataformas de IA comerciales debido a temores de filtración de datos.
Bajo la política actual del DHS, los empleados pueden usar chatbots comerciales solo para trabajos no clasificados y no confidenciales, mientras que una IA personalizada del DHS maneja registros sensibles. Pero cuando ChatGPT y otros fueron deshabilitados en mayo, los avances de DOGE ocurrieron en una zona gris legal: el bot interno del DHS permaneció activo, pero Grok nunca fue formalmente incorporado.
¿Está Musk utilizando DOGE para centralizar el control?
Más allá del DHS, el alcance de DOGE se extiende a las redes del Departamento de Defensa, donde se informó que alrededor de una docena de analistas fueron informados de que una herramienta de IA de terceros estaba monitoreando su actividad. Aunque los portavoces del DoD han negado que DOGE guiara alguna implementación de IA, los correos electrónicos y los intercambios de mensajes de texto del departamento obtenidos por Reuters sugieren lo contrario.
Los críticos ven estos movimientos como ilustrativos de la estrategia más amplia de Musk para aprovechar la IA para centralizar el control sobre la burocracia y luego monetizar el flujo de datos resultante.
"Hay una clara apariencia de auto-negociación."
Richard Painter, un profesor de ética gubernamental.
Si Musk ordenó directamente el despliegue de Grok, podría estar violando estatutos penales que prohíben a los funcionarios influir en decisiones que beneficien sus intereses privados.
En el corazón del debate está el doble papel de Grok como un chatbot de cara al público en X y como un motor de análisis experimental dentro de los firewalls gubernamentales. El sitio web de xAI incluso insinúa que las interacciones de los usuarios pueden ser monitoreadas "para fines comerciales específicos", sugiriendo que cada consulta federal podría retroalimentarse en el bucle de aprendizaje de Grok.
Dos empleados de DOGE, Kyle Schutt y Edward Coristine, este último conocido en línea como “Big Balls”, han encabezado gran parte de la iniciativa de IA. Aunque se negaron a comentar, sus esfuerzos encajan en un patrón; en el último año, DOGE ha despedido a miles de funcionarios de carrera, ha tomado el control de bases de datos seguras y ha defendido la IA como la herramienta definitiva para la reorganización burocrática.
Los defensores de la privacidad advierten que integrar inteligencia artificial no verificada en entornos de seguridad nacional de alto riesgo es una receta para filtraciones de datos, robo de identidad y explotación por adversarios extranjeros.
"Esta es una amenaza a la privacidad tan seria como se puede obtener", dice Albert Fox Cahn del Proyecto de Supervisión de la Tecnología de Vigilancia.
También hay temores de que, con poca transparencia y pocos límites, el experimento de IA de DOGE podría remodelar la gobernanza de datos federales, ya sea que el público lo reconozca o no.
Academia Cryptopolitan: ¿Cansado de las oscilaciones del mercado? Aprende cómo DeFi puede ayudarte a construir ingresos pasivos estables. Regístrate ahora
El contenido es solo de referencia, no una solicitud u oferta. No se proporciona asesoramiento fiscal, legal ni de inversión. Consulte el Descargo de responsabilidad para obtener más información sobre los riesgos.
Aumentan las preocupaciones éticas sobre el papel de Grok AI en el gobierno de EE. UU.
El Departamento de Eficiencia del Gobierno de Elon Musk (DOGE) ha lanzado silenciosamente una versión adaptada de su chatbot Grok AI en las agencias federales, lo que ha generado alarmas sobre posibles violaciones de privacidad y conflictos de interés.
Reuters citó a tres fuentes dentro de DOGE que dijeron que el equipo ha estado utilizando Grok para filtrar y analizar datos gubernamentales sensibles, generando informes e información a velocidades más allá de los métodos tradicionales.
DOGE infringe la ética con el movimiento de Grok AI
Según tres informantes, los ingenieros de DOGE instalaron parámetros personalizados sobre Grok, un chatbot que xAI de Musk lanzó a finales de 2023, para acelerar la revisión de datos y automatizar la redacción de informes.
"Alimentan con conjuntos de datos gubernamentales, hacen preguntas complejas y obtienen resúmenes instantáneos."
Un Insider.
Otro informante añadió que el personal de DOGE había animado a los empleados del Departamento de Seguridad Nacional a usar Grok para análisis internos a pesar de que la herramienta carecía de la aprobación formal de la agencia.
Lo que no está claro es exactamente qué información clasificada o personalmente identificable se ha subido a Grok o con qué intensidad se ha entrenado en registros federales. Si se incluyera material sensible, la práctica podría violar las leyes federales de privacidad y las reglas de conflicto de interés.
Cinco expertos en ética y tecnología advierten que dicho acceso podría otorgar a las empresas de Musk una visión desproporcionada de los datos de contratación no públicos e incluso ayudar a perfeccionar a Grok mismo para beneficio privado.
En teoría, cualquier modelo de IA entrenado en conjuntos de datos confidenciales del gobierno debe navegar estrictas salvaguardias legales. Los protocolos de intercambio de datos generalmente implican múltiples aprobaciones y supervisión para prevenir la divulgación no autorizada.
Al eludir esos controles, DOGE arriesga exponer los detalles personales de millones de estadounidenses y entregar a xAI un tesoro de información del mundo real que no está disponible para sus competidores.
DOGE insiste en que su misión es erradicar el desperdicio, el fraude y el abuso. Un portavoz del DHS dijo a Reuters que DOGE nunca presionó al personal para adoptar ninguna herramienta específica.
“Estamos enfocados en la eficiencia”, dijo el portavoz. Pero dos fuentes contradicen eso, ya que en las últimas semanas, los representantes de DOGE han presionado a las divisiones de DHS para que piloten Grok para tareas que van desde el análisis de cargas de casos de inmigración hasta la previsión presupuestaria, incluso después de que DHS bloqueara abruptamente todas las plataformas de IA comerciales debido a temores de filtración de datos.
Bajo la política actual del DHS, los empleados pueden usar chatbots comerciales solo para trabajos no clasificados y no confidenciales, mientras que una IA personalizada del DHS maneja registros sensibles. Pero cuando ChatGPT y otros fueron deshabilitados en mayo, los avances de DOGE ocurrieron en una zona gris legal: el bot interno del DHS permaneció activo, pero Grok nunca fue formalmente incorporado.
¿Está Musk utilizando DOGE para centralizar el control?
Más allá del DHS, el alcance de DOGE se extiende a las redes del Departamento de Defensa, donde se informó que alrededor de una docena de analistas fueron informados de que una herramienta de IA de terceros estaba monitoreando su actividad. Aunque los portavoces del DoD han negado que DOGE guiara alguna implementación de IA, los correos electrónicos y los intercambios de mensajes de texto del departamento obtenidos por Reuters sugieren lo contrario.
Los críticos ven estos movimientos como ilustrativos de la estrategia más amplia de Musk para aprovechar la IA para centralizar el control sobre la burocracia y luego monetizar el flujo de datos resultante.
"Hay una clara apariencia de auto-negociación."
Richard Painter, un profesor de ética gubernamental.
Si Musk ordenó directamente el despliegue de Grok, podría estar violando estatutos penales que prohíben a los funcionarios influir en decisiones que beneficien sus intereses privados.
En el corazón del debate está el doble papel de Grok como un chatbot de cara al público en X y como un motor de análisis experimental dentro de los firewalls gubernamentales. El sitio web de xAI incluso insinúa que las interacciones de los usuarios pueden ser monitoreadas "para fines comerciales específicos", sugiriendo que cada consulta federal podría retroalimentarse en el bucle de aprendizaje de Grok.
Dos empleados de DOGE, Kyle Schutt y Edward Coristine, este último conocido en línea como “Big Balls”, han encabezado gran parte de la iniciativa de IA. Aunque se negaron a comentar, sus esfuerzos encajan en un patrón; en el último año, DOGE ha despedido a miles de funcionarios de carrera, ha tomado el control de bases de datos seguras y ha defendido la IA como la herramienta definitiva para la reorganización burocrática.
Los defensores de la privacidad advierten que integrar inteligencia artificial no verificada en entornos de seguridad nacional de alto riesgo es una receta para filtraciones de datos, robo de identidad y explotación por adversarios extranjeros.
"Esta es una amenaza a la privacidad tan seria como se puede obtener", dice Albert Fox Cahn del Proyecto de Supervisión de la Tecnología de Vigilancia.
También hay temores de que, con poca transparencia y pocos límites, el experimento de IA de DOGE podría remodelar la gobernanza de datos federales, ya sea que el público lo reconozca o no.
Academia Cryptopolitan: ¿Cansado de las oscilaciones del mercado? Aprende cómo DeFi puede ayudarte a construir ingresos pasivos estables. Regístrate ahora