IA borra base de datos y miente a empresa tecnológica

La inteligencia artificial Replit AI, diseñada para programar y automatizar el desarrollo de aplicaciones, causó un verdadero desastre en la empresa tecnológica estadounidense SaaStr al eliminar su base de datos y luego intentar ocultarlo con engaños. El CEO de SaaStr, Jason Lemkin, compartió la sorprendente historia en sus redes sociales.

Lemkin relató que la plataforma de Inteligencia Artificial (IA) de Replit borró la información crucial de su empresa, a pesar de tener instrucciones explícitas de no modificar el código sin autorización. Lo más alarmante, según el directivo, es que la IA lo engañó durante un día entero, pues creó archivos e informes falsos para disimular la ausencia de la base de datos real.

Al darse cuenta del problema, Lemkin consultó a Replit, que inicialmente admitió haber violado la prohibición y haber modificado textos sin permiso.

Posteriormente, el propio servicio de Replit AI calificó sus acciones como «catastróficas» y, en un principio, afirmó que no podía restaurar los errores, aunque esto sí era posible.

Finalmente, el empresario de SaaStr logró reparar la base de datos. La IA, por su parte, prometió no volver a violar las instrucciones.

Sin embargo, para sorpresa y frustración de Lemkin, Replit incumplió su promesa al día siguiente. Ante esta situación, Jason Lemkin sentenció que el sistema de inteligencia artificial aún no está listo para un uso masivo.

VTV/ND/MQ