El costo oculto del código basado en IA generativa
¿Prefieres un resumen de este blog? ¡Da click en el botón de abajo y deja que ChatGPT te lo cuente! (también puedes probar con Perplexity)
¡Alto ahí! Ya sabemos que sus ingenieros pueden estar usando IA generativa para la creación de código y su posterior implementación.
Esto realmente no es malo, no tiene que interrumpir este proceso abruptamente.
Pero, ¿ya se detuvo a pensar en si esto trae algún riesgo? Recuerde que la IA sigue creciendo día a día y va mejorando. Sin embargo, lo que puede ser algo sencillo y rápido ahora podría significar un gran costo para su empresa a futuro.
MIT Sloan nos cuenta que, tras varios estudios: GitHub descubrió que los programadores que utilizan Copilot son hasta un 55 % más productivos. Además, McKinsey ha descubierto que los desarrolladores pueden completar tareas hasta el doble de rápido con la asistencia de la IA generativa.
Revisemos entonces los pros y los contras de que su empresa realice programación con la ayuda de la GenAI.
La deuda técnica
En caso de que no haya escuchado del concepto de “deuda técnica”, IBM la define como los costes futuros asociados con la dependencia de atajos o decisiones subóptimas tomadas durante el desarrollo de software.
Es decir, cuando existe una mala gestión del código con correcciones rápidas, documentación deficiente e incluso código obsoleto. A futuro, puede significar un gran error para la empresa, terminando en costos de reparación y perdida de reputación.
Como lo fue el caso de Crowdstrike en 2024. Tras distribuir una actualización de configuración defectuosa para su software que se ejecuta en PC y servidores con Windows, una modificación a un archivo de configuración que era responsable de filtrar las canalizaciones con nombre, provocó una lectura de memoria fuera de límites en el cliente del sensor de Windows que resultó en un fallo de página no válida. La actualización provocó que las máquinas entraran en un bucle de arranque o se iniciaran en modo de recuperación.
En pocas palabras, esta falla generó una deuda técnica para Crowdstrike resumida en grandes esfuerzos para restaurar esta actualización fallida y una gran perdida de reputación para la misma y los sistemas Windows. Aunque no tenemos la certeza de si se apoyaron en GenAI, es un buen ejemplo de lo que podría aumentar su deuda técnica por código de IA mal ejecutado.
MIT Sloan habló con diversos desarrolladores y afirman que algunos otros problemas en código generado por IA son duplicaciones de código, problemas de integración, conflictos de dependencias, falta de comprensión del contexto, entre otros.
Resulta que la IA generativa puede crear el código que le pidas, pero no puede ver la base del código.
El Consorcio para la Calidad de la Información y el Software estima que el costo de la deuda técnica en EE. UU. asciende a al menos 2,4 billones de dólares.
¿Cómo crear un entorno seguro para codificar con IA?
El panorama parece desolador, lo sabemos. Esto no significa que deba dejar de usar la IA Generativa en sus procesos de tecnología o en su día a día.
Aquí le dejamos algunos tips para cuando esté explorando y creando con esta herramienta:
∙ Procure que su entorno de desarrollo sea sin código heredado. Así correrá menos riesgos a comparación de los proyectos ejecutados en brownfield o con código heredado.
∙ Es imposible evitar que los desarrolladores junior no cometan errores, pero tampoco debemos confiarnos en que el senior podrá solucionar todo. Capacite constantemente a su equipo de trabajo para identificar aquellos errores que la IA generativa pueda tener en su código.
∙ La IA no solo llega a su red y se las sabe todas, debe dejar una ventana de tiempo prudente para que ella pueda entender cómo funciona su negocio. Lo idea no sería que sus técnicos usen la versión gratuita de ChatGPT para crear código, evalúe adquirir IA para empresas de OpenAI o entrenar su propia IA.
∙ No inicie con GenAI en su infraestructura de red sin antes establecer políticas de uso responsables que tengan presente la privacidad, integridad de los datos y la equidad. Además, claro, de mantenerse al día con las regulaciones y cumplimiento global sobre el uso de la IA.
∙ Explicamos a detalle lo que es la deuda técnica, que esto entre dentro del plan de implementación de IA como una prioridad. Recuerde que, si va a invertir en IA, lo ideal es contar con beneficios y no consecuencias.
¿Qué espera para ser parte del nuevo mundo?
El panorama de la codificación con IA generativa parece abrumador, ¡no se desanime!
Así como cuando dijimos que la IA venía a reemplazar nuestros puestos de trabajo, todo es un proceso de adaptación.
Tome su tiempo para evaluar todas las posibilidades, lo que se adecue mejor a su infraestructura y las metas que tenga su equipo de TI y gerencia.
Nuestro consejo más grande es no temerle a la IA ni a los errores iniciales que pueda tener. Actualmente estamos en la fase de prueba y error, lo mejor es permitir que la IA acceda a lo que usted busca y cómo lo busca.
¿Quiere conocer más sobre soluciones de TI que implementen IA? Lo invitamos a conocer los avances de ManageEngine en sus soluciones impulsadas por IA.
¿Ya conocía sobre la deuda técnica y cómo se producía? Lo leemos en los comentarios.