¿Podrá la inteligencia artificial escapar a la tendencia de volverse basura digital?
Hace unas semanas, durante mis vacaciones en Italia, descubrí el verdadero potencial de la IA cuando GPT-5 me recomendó Babette, un restaurante en Roma que resultó ser una experiencia culinaria inolvidable. Esta anécdota personal me hizo reflexionar sobre la confianza que depositamos en estos sistemas y la preocupante posibilidad de que sigan el camino de otras plataformas tecnológicas que comenzaron siendo útiles para los usuarios pero terminaron degradándose en busca de mayores ganancias.
El concepto de ‘enshittification’, acuñado por el crítico tecnológico Cory Doctorow, describe perfectamente este fenómeno donde plataformas como Google, Amazon y Facebook inician siendo excelentes para los usuarios, pero una vez que dominan el mercado, comienzan a transferir valor hacia los clientes empresariales y finalmente extraen todo el valor para sí mismas. Lo preocupante es que la IA, con su potencial para convertirse en nuestra compañera constante en decisiones cotidianas, podría ser especialmente vulnerable a este proceso. Las enormes inversiones requeridas para desarrollar estos modelos significan que solo unas pocas empresas dominarán el campo, creando las condiciones perfectas para que prioricen las ganancias sobre la utilidad para los usuarios.
Actualmente, empresas como OpenAI y Perplexity aseguran que mantendrán la integridad de sus servicios, pero la historia reciente de la tecnología nos muestra patrones preocupantes. Desde Amazon Prime Video introduciendo anuncios obligatorios hasta Unity intentando cobrar tasas adicionales a desarrolladores, vemos cómo las empresas aprovechan su posición dominante. En el caso de la IA, la degradación podría manifestarse mediante recomendaciones basadas en pagos publicitarios, modelos de suscripción cada vez más caros, o el uso de nuestros datos de formas que originalmente prometieron evitar. Lo más alarmante es que, como señala Doctorow, la naturaleza de ‘caja negra’ de los modelos de lenguaje les permitiría disfrazar esta degradación de manera efectiva.
Al consultarle a GPT-5 sobre esta misma preocupación, el modelo reconoció que el marco de ‘enshittification’ se adapta ‘de forma inquietante’ a los sistemas de IA si no se controlan los incentivos. Esta autorreflexión resulta tanto fascinante como preocupante. Mi experiencia positiva con Babette me convence del valor actual de estas herramientas, pero también me hace temer que podríamos estar presenciando los primeros días de una relación que, como tantas otras en el mundo digital, podría deteriorarse una vez que las empresas sientan la presión de monetizar sus enormes inversiones. La pregunta no es si la IA tiene valor hoy, sino si podrá mantenerlo frente a las inevitables presiones comerciales del mañana.
