GenAI en grandes organizaciones: cómo habilitar de forma eficiente y segura

By

CI&T

En los últimos años muchos profesionales han sido reacios a la Inteligencia Artificial Generativa (GenAI), debido a temores sobre el impacto en sus empleos, y lo que los líderes están enfrentando hoy en día es el desafío de controlar su uso sin limitarlo, de manera eficiente y segura.

Desde que ChatGPT de OpenAI llegó a 100 millones de usuarios en solo dos meses y popularizó el uso generalizado de la IA Generativa, el mundo ha visto a personas de diversos campos incorporando esta tecnología a su rutina profesional.

Con el uso simplificado y desenfrenado, surge el desafío de implementar la GenAI en escala con seguridad - un tema especialmente valioso para organizaciones de mediano y gran tamaño que poseen estructuras complejas y equipos diversificados.

La seguridad comienza con las personas

Crear conciencia dentro de la empresa antes de comenzar a usarla a gran escala es un pilar fundamental para garantizar un uso seguro.

Es importante destacar que este alfabetismo va desde ejecutivos C-Level (que debe recibir capacitación específica con la perspectiva estratégica y de liderazgo) hasta colaboradores de toda la empresa sobre fundamentos de los riesgos y beneficios del GenAI.

En el campo técnico, los profesionales que usan y desarrollan soluciones de GenAI están en el centro de un cambio aún mayor: la migración de los ingenieros de software a posibles "ingenieros de IA", siendo este solo uno de muchos movimientos de la fuerza laboral del futuro. Con esto, los programas internos de capacitación pueden ser desarrollados desde ya, enfocados exclusivamente en entrenamientos sobre desarrollo de tecnologías con IA y cómo usar este poderoso aliado con seguridad.

En medio de los avances en eficiencia y la aparición de nuevos campos de especialización, es importante reconocer que pronto todas las profesiones necesitarán reaprender cómo trabajar con la asistencia de un copiloto basado en Inteligencia Artificial - y los mecanismos de seguridad necesarios para ello.

Gobernanza como fuerza centralizadora

La descentralización de la búsqueda de soluciones es un gran motivador para el establecimiento de una política de gobernanza.

Dentro de las mejores prácticas aplicadas por empresas de gran tamaño, la creación de un comité liderado por el equipo de tecnología es una de las medidas buscadas. Con representantes de cada área y abarcando todas las verticales de las empresas, es posible unir perspectivas para capacitación y toma de decisiones, además de establecer estándares para contratación y uso de soluciones.

Riesgos futuros en el radar

Cuando se trata del uso de GenAI a escala, el principal riesgo futuro es la falta de previsibilidad. Dado que se trata de una tecnología que avanza a una velocidad exponencial, hay un consenso en que surgirán nuevos desafíos a mediano y largo plazo, tales como:

01. Escasez de mano de obra

¿Cómo acelerar la especialización de los ingenieros de software en Inteligencia Artificial Generativa? Esta puede llegar a ser una fuerza laboral con una demanda muy superior a la oferta.

02. Uso descontrolado o indebido de la tecnología

Con tantas organizaciones en la carrera por la vanguardia de los mejores casos de uso, no se descartan desastres en la aplicación de la IA, así como riesgos en la gestión de la empresa (especialmente aquellas que tienen poca madurez de mercado y están en control de herramientas poderosas).

03. Contextos de ingeniería social sofisticados

El avance tecnológico también permitirá nuevas técnicas de intento de fraude y ataques cada vez más sofisticados, lo que exigirá un alto rendimiento de los factores de seguridad. Sin embargo, vale la pena recordar que las empresas tienen más poder que los delincuentes virtuales para garantizar la seguridad, contando con la ayuda de socios especializados.

04. Equilibrio entre alta productividad y bienestar profesional

Existe el riesgo de que equipos que ya están al límite de la productividad reciban presión para producir aún más con el uso de GenAI. La capacitación de liderazgo también debe enfocarse en la prevención del burnout y en el mantenimiento de la salud de las personas en esta carrera por la productividad.

05. Alucinaciones

La IA Generativa está basada en el aprendizaje y, por lo tanto, puede reforzar sesgos existentes, lo cual puede provocar impactos significativos en la sociedad y en el negocio a partir de su uso a gran escala.

Conclusión

La Inteligencia Artificial Generativa es un tema nuevo cuya única certeza es que estamos frente a un game changer que sólo tiende a evolucionar.

Aunque el tema sea tecnológico, el impacto recae en toda la empresa y la sociedad, en el cual el tópico de la seguridad tiene el objetivo de empoderar más profesionales, y no de ser un cuello de botella.

Por eso es importante mantener el enfoque en que la inteligencia artificial es y debe seguir siendo el copiloto de las personas, invirtiendo siempre en la sinergia entre el hombre y la máquina, buscando el mayor equilibrio posible de esta ecuación.

CI&T