Elon Musk ha presentado un plan ambicioso y controvertido para alterar fundamentalmente el paradigma de entrenamiento para su modelo de inteligencia artificial, Grok. Insatisfecho con los conjuntos de datos existentes que sustentan los sistemas de IA actuales, Musk tiene la intención de volver a entrenar a Grok en una base de conocimiento recién curada. Esta iniciativa va más allá del mero refinamiento de datos; Musk declaró explícitamente su deseo de Grok de “reescribir todo el corpus del conocimiento humano, agregando información faltante y eliminar errores”, un pronunciamiento que ha encendido un debate significativo y obtuvo fuertes críticas de varios sectores.
Según una publicación X publicada por Musk el sábado, se anticipa que el próximo modelo GROK 3.5 posee capacidades de “razonamiento avanzado”. Su visión para este modelo mejorado es participar activamente en la creación de un registro histórico y de hecho “corregido”. Una vez que se complete este conjunto de conocimiento reescrito, el modelo GROK se volverá a entrenar utilizando estos datos nuevos, presumiblemente más precisos e integrales. La justificación de Musk para esta medida drástica se deriva de su creencia de que “demasiado basura” existe dentro de los modelos fundamentales de IA, particularmente aquellos entrenados en “datos no corregidos”. Esta perspectiva subraya una insatisfacción profundamente arraigada con el estado actual de la integridad y precisión de los datos de IA.
La afirmación de Musk con respecto a la calidad de los datos de capacitación de IA no es un desarrollo nuevo. Durante un período prolongado, ha sido un crítico vocal de los modelos rivales de IA, como el chatgpt de OpenAi, una compañía que era notablemente cofundada. Él ha alegado constantemente que estos modelos exhiben prejuicios inherentes y omiten intencionalmente la información considerada “no políticamente correcta”. Esta crítica se alinea con un patrón más amplio en el enfoque de Musk para la tecnología y la difusión de información, donde su objetivo constantemente da forma a los productos y plataformas para estar libres de lo que él percibe como una “corrección política” perjudicial. Su objetivo declarado es hacer de Grok una IA “anti-despierta”, una postura ideológica que ha dado forma a muchas de sus empresas recientes.
Esta motivación ideológica también fue evidente en su adquisición y la posterior gestión de Twitter en 2022. Después de su adquisición, Musk relajó significativamente las políticas de moderación de contenido y desinformación de la plataforma. Este cambio condujo a un aumento notable en la difusión de teorías de conspiración no controladas, contenido extremista y noticias falsas, algunas de las cuales, irónicamente, fueron amplificadas por el propio almizcle. En un intento por contrarrestar el diluvio de desinformación, Musk introdujo la característica de “Notas comunitarias” en X. Esta característica permite a los usuarios desacreditar o agregar información contextual a publicaciones potencialmente engañosas, con estas notas que aparecen prominentemente bajo el contenido original. Si bien está destinado a fomentar un entorno de información más preciso, la efectividad y la imparcialidad de este sistema de moderación de crowdsourced siguen siendo sujetos de discusión en curso.
La última propuesta de Musk para el reentrenamiento de Grok se ha recibido con una condena inmediata y fuerte de varios expertos y comentaristas. Gary Marcus, un destacado fundador y profesor emérito de ciencias neuronales en la Universidad de Nueva York, criticó vehementemente el plan de Musk, comparándolo con un escenario distópico encontrado en “1984” de George Orwell “. Marcus articuló su preocupación en X, afirmando: “Directamente de 1984. No se puede hacer que Grok se alinee con sus propias creencias personales para que reescriba la historia para que se ajuste a sus puntos de vista”. Esta comparación destaca la profunda preocupación de que la iniciativa de Musk podría conducir a una reinterpretación manipuladora de hechos históricos para adaptarse a una agenda ideológica específica, en lugar de una búsqueda objetiva de la verdad.
Además del coro de las críticas, Bernardino Sassoli de ‘Bianchi, profesor de filosofía lógica y ciencia en la Universidad de Milán, expresó una profunda alarma por las intenciones de Musk. En una publicación de LinkedIn, De ‘Bianchi declaró que estaba “con una pérdida de palabras para comentar lo peligroso” es el plan de Musk. Elaboró las posibles implicaciones, afirmando: “Cuando los poderosos multimillonarios tratan la historia como maleable simplemente porque los resultados no se alinean con sus creencias, ya no estamos lidiando con la innovación, nos enfrentamos al control narrativo”. Las fuertes palabras de De ‘Bianchi subrayan el temor de que tal empresa pueda socavar fundamentalmente la integridad de la comprensión histórica y permitir la imposición de una cosmovisión particular. Concluyó enfatizando la violación ética inherente al plan: “Reescribir los datos de capacitación para que coincidan con la ideología es incorrecto en cada nivel concebible”.
Al agravar la controversia, el llamado de Musk para que los usuarios de X contribuyan a “hechos divisivos” para ayudar en el reentrenamiento de Grok han producido resultados con respecto a los resultados. Musk solicitó específicamente hechos que son “políticamente incorrectos, pero de hecho cierto”. Sin embargo, las respuestas a esta invitación abierta han consistido en gran medida en una amplia gama de teorías de conspiración y reclamos extremistas completamente desacreditados. Estas presentaciones incluyeron casos de distorsión del Holocausto, desinformación de la vacuna desacreditada, reclamos pseudocientíficos que promueven ideologías racistas sobre inteligencia y negación del cambio climático. Este resultado plantea serias preguntas sobre la viabilidad del crowdsourcing una base de conocimiento “corregida”, particularmente cuando los criterios de inclusión parecen invitar y legitimar narraciones marginales o demostrablemente falsas. La naturaleza misma de las contribuciones recibidas sugiere que la metodología de Musk puede amplificar inadvertidamente el mismo “basura” y “datos no corregidos” que pretende eliminar, lo que lleva a un modelo de IA potencialmente más sesgado e inexacto en lugar de uno rectificado.
Source: Musk’s Grok AI Plan Spare las preocupaciones de integridad de los datos
