Ahmad Shadid de O.XYZ habla sobre las promesas y los inconvenientes de las herramientas de codificación basadas en IA: cómo equilibrar la innovación

Recientemente, Sebastian Siemiatkowski, director ejecutivo de Klarna, una empresa global de soluciones de pago que ofrece servicios de “compra ahora, paga después”, compartido Cómo herramientas de IA como Cursor han revolucionado el desarrollo de prototipos. Destacó la creciente tendencia de la codificación dinámica, donde la IA ayuda a generar código mediante indicaciones en lenguaje natural, optimizando los flujos de trabajo y reduciendo la dependencia de los equipos técnicos. Este enfoque se está convirtiendo en una habilidad clave para los desarrolladores, y las grandes empresas buscan cada vez más competencias en herramientas de codificación basadas en IA.

En una conversación con Mpost, Ahmad Shadid , Director general de O.XYZ —un ecosistema de desarrollo de IA integral y agente— compartió sus ideas y experiencia sobre la evolución de esta tendencia.

El auge de la programación basada en IA: empoderando a líderes no técnicos, mitigando riesgos y dando forma al futuro de la ingeniería de software

Ahmad Shadid señaló que, gracias a las herramientas basadas en IA, los líderes sin conocimientos técnicos ahora tienen la oportunidad de convertir ideas en demostraciones interactivas en cuestión de horas. Esto acelera el descubrimiento de productos y reduce la brecha entre la intención comercial y la ingeniería. Sin embargo, los riesgos incluyen una falsa sensación de viabilidad, ya que los prototipos pueden ocultar problemas subyacentes como la viabilidad, la seguridad y la deuda técnica. Además, los líderes pueden centrarse demasiado en lo que la herramienta puede generar, pasando por alto lo que es viable desde una perspectiva estratégica o técnica.

También compartió los problemas más comunes que enfrentan los equipos cuando usan código generado por IA y ofreció ideas sobre cómo mitigar estos riesgos.

El manejo inseguro de entradas y los patrones de autenticación débiles se encuentran entre los principales problemas. Estas preocupaciones de seguridad pueden mitigarse mediante la aplicación de SAST/DAST en CI, linters de seguridad, análisis de dependencias y modelado de amenazas en funciones que se originan en IA. La fuga de datos en los mensajes se puede reducir mediante el enrutamiento a través de proveedores aprobados que redactan y protegen secretos, y utilizando puertas de enlace de mensajes que preservan la privacidad, declaró Ahmad Shadid. Mpost.

No se trata solo del código generado por la IA. Quienes no son ingenieros ni programadores suelen carecer de una comprensión completa de cómo se crea el software y cómo es la arquitectura del sistema. La IA solo es tan buena como el mensaje que se le da, ¿verdad? Por lo tanto, no pueden enviar mensajes a la IA correctamente, lo que puede generar amenazas de seguridad y problemas como las API en el frontend y las bases de datos públicas —continuó—.

Además, el experto añadió que una queja frecuente entre los ingenieros es que, cuando el contexto se vuelve demasiado amplio o algo se vuelve demasiado complejo, la IA empieza a alucinar. Empieza a realizar cambios en el código innecesarios o no solicitados explícitamente. La IA también genera miles de líneas de código. Imagine intentar mantenerse al día con los cambios aleatorios en la base de código a lo largo de miles de líneas de código.

“En última instancia, las revisiones periódicas y con plazos definidos sin IA son esenciales para mantener los fundamentos actualizados y combatir la atrofia de las habilidades”, afirmó.

Al comentar sobre si la dependencia de la programación basada en IA podría transformar la forma en que se valora y contrata a los ingenieros de software en diferentes industrias, con la "programación de vibraciones" convirtiéndose en una habilidad codiciada incluso en las ofertas de empleo, Ahmad Shadid afirmó: "Cuanto menos escritura sin formato, más diseño de sistemas, revisión de código, depuración, seguridad y orquestación de datos/IA compensan la lógica del producto. También hemos visto un cambio de 'implementar X desde cero' a 'criticar, reforzar y extender el código producido por IA', además de simulacros de arquitectura e incidentes. El auge de 'líderes de programación en pares de IA', 'custodios de código' e ingenieros de plataforma que construyen barreras de seguridad en el software generado por IA muestra una creciente adopción de la programación basada en IA".

Los principiantes a menudo se saltan los fundamentos y se lanzan directamente a la ingeniería rápida sin tener ni idea de lo que quieren lograr. Por otro lado, los ingenieros experimentados ganan terreno, lo que les permite dedicar más tiempo a la arquitectura, la fiabilidad y los resultados adecuados del producto. Las rutas de aprendizaje explícitas, una cultura de "leer antes de escribir" y ejercicios periódicos de "modo manual" pueden ayudar a garantizar un uso eficiente y ético de la IA para la escritura de código, señaló.

Las herramientas de codificación Vibe son beneficiosas, pero demasiado simples para reemplazar los flujos de trabajo de desarrollo tradicionales.

Una de las preocupaciones es que las herramientas de codificación de vibraciones podrían eventualmente reemplazar los flujos de trabajo de codificación tradicionales. Sin embargo, el experto señaló que estas herramientas son demasiado simples como para reemplazar los flujos de trabajo de codificación completos.

¿Formará parte de los flujos de trabajo de programación a partir de ahora? Claro, los equipos de producto se benefician mucho de esto para implementar rápidamente un frontend y comprobar diferentes diseños de UX. Claro, los desarrolladores autónomos y aficionados pueden crear algo rápidamente, pero no puede reemplazar todo el flujo de trabajo. De hecho, el desarrollo actual se enfrenta a algunos desafíos, especialmente a medida que la IA se vuelve cada vez más potente. Mpost.

“Simplemente no podemos ponernos al día, las herramientas no pueden hacerlo, y nos enfrentamos a una crisis de fragmentación de herramientas donde los desarrolladores ahora necesitan cuatro o cinco herramientas como parte de su flujo de trabajo. Cada vez que cambias, pierdes contexto, simplemente no puedes seguir el ritmo, y la IA no puede seguir el ritmo; no puedes seguir todos los cambios en una herramienta y en la otra, etc.”, continuó Ahmad Shadid.

En resumen, las herramientas y plataformas de codificación actuales aún tienen un largo camino por recorrer antes de reemplazar los flujos de trabajo de codificación tradicionales. Estas herramientas aún están incompletas.

Ahmad Shadid analiza el futuro de la IA en el desarrollo de software: beneficios, riesgos y la necesidad de soluciones seguras y escalables.

Ahmad Shadid destacó que las herramientas y entornos de desarrollo actuales están preparados para integrar de forma segura la codificación impulsada por IA: "Las integraciones de IDE, la finalización sólida del código, las refactorizaciones decentes y los asistentes que reconocen el repositorio desempeñan un papel importante en la producción de código generado por IA", dijo. MpostSin embargo, existen deficiencias a nivel empresarial. Una auditabilidad unificada de las sugerencias de IA, una aplicación robusta de políticas con control de costes y opciones fluidas de modelos locales/privados podrían generar deficiencias importantes a nivel empresarial, añadió el experto. 

A medida que más ejecutivos adoptan herramientas de IA para la creación rápida de prototipos, esto podría ayudar a democratizar la innovación dentro de las empresas. Sin embargo, también conlleva el riesgo de simplificar excesivamente la complejidad de la ingeniería de software.

Ahmad Shadid cree que con más personas involucradas en el proceso de ideación, las empresas pueden validar ideas más rápidamente y mejorar la colaboración interdisciplinaria. Esto permite desarrollar y perfeccionar más ideas para convertirlas en soluciones estables, brindando a los creadores la libertad de materializar sus conceptos mediante software.

El uso de herramientas de IA para la creación de prototipos subestima la complejidad de la fiabilidad, la operatividad y la escalabilidad, lo que lleva a tomar decisiones basadas en demostraciones que podrían provocar fallos si no se controlan. Estas herramientas facilitan la creación de prototipos, pero dificultan su entrega sin controles de calidad de ingeniería, destacó el experto.

Además, las empresas deberían permitir que personas sin formación de ingenieros operen en entornos aislados que ejecuten las aplicaciones de forma silenciosa y privada. El uso de datos ficticios o sintéticos, así como la ausencia de credenciales de producción, puede ayudar a minimizar el riesgo de fuga de datos.

“Las estrategias claras de identificación del sistema, como repositorios desechables y espacios de nombres separados, facilitan el aprovechamiento de los programas de IA de forma aislada. Las pilas aprobadas, los andamiajes seguros, las pruebas integradas y el análisis de linting proporcionan una plataforma segura para la escalabilidad y la resiliencia de la aplicación”, declaró Ahmad Shadid. Mpost.