Inteligencia artificial

IA generativa en la empresa en Marruecos: casos de uso, riesgos y método

Por Yasser MsahalPublicado el 12 de octubre de 202610 min de lectura

La IA generativa es útil para una empresa B2B en Marruecos cuando se aplica a un proceso concreto: tratar documentos, preparar respuestas de soporte, localizar información en la documentación interna o redactar el primer borrador de un informe. Decepciona cuando se despliega en todas partes sin reglas. Tres cosas marcan la diferencia: clasificar los datos antes de enviarlos a un modelo, mantener a una persona responsable del resultado y empezar con un piloto medido.

¿Qué puede hacer la IA generativa por una empresa B2B en Marruecos?

Un gran modelo de lenguaje (LLM, por sus siglas en inglés) lee, resume, clasifica y redacta texto. En B2B resulta útil en tareas repetitivas en las que el tiempo se va sobre todo en leer, buscar y copiar. Hay cuatro familias de casos de uso que son a la vez asequibles y fáciles de controlar.

• Tratamiento de documentos: facturas, pedidos, contratos o reclamaciones. El modelo extrae los campos útiles, clasifica el documento y señala lo que falta. En Marruecos, estos documentos suelen llegar en francés, en árabe o en una mezcla de ambos, a veces escaneados: pruebe el modelo con sus propios ejemplos, en cada idioma que reciba, antes de sacar ninguna conclusión.
• Borradores de respuestas de soporte: el modelo lee el ticket, localiza los elementos útiles en sus procedimientos y propone una respuesta que el agente revisa, corrige y envía. La ganancia está en la búsqueda y la redacción, no en la decisión. Si sus clientes también escriben en darija (el árabe dialectal marroquí), incluya esos mensajes en las pruebas.
• Búsqueda en la base documental interna: procedimientos de calidad, políticas de RR. HH., documentación técnica. El empleado formula su pregunta en lenguaje corriente y obtiene una respuesta acompañada de los fragmentos de origen.
• Generación de informes: actas, resúmenes mensuales, notas de alcance. El modelo arma un primer borrador que el responsable completa y valida; las cifras proceden de sus sistemas, nunca de la memoria del modelo.

Lo que tienen en común estos cuatro usos: el modelo prepara y una persona decide. Por eso pueden desplegarse sin esperar a un modelo perfecto.

RAG: consultar los documentos de la empresa sin entrenar un modelo

El RAG (Retrieval-Augmented Generation, generación aumentada por recuperación) no pregunta al modelo lo que «sabe»: le proporciona, en cada pregunta, los fragmentos pertinentes de sus documentos. No hace falta entrenarlo con sus datos, y un procedimiento actualizado se tiene en cuenta en cuanto se vuelve a indexar.

1. Los documentos autorizados se dividen en fragmentos y se indexan.
2. Con cada pregunta, el sistema localiza los fragmentos más cercanos.
3. El modelo recibe esos fragmentos con la instrucción de responder únicamente a partir de ellos.
4. La respuesta se muestra junto con sus fuentes, para poder verificarla.

Tres factores determinan la calidad. Los propios documentos: procedimientos obsoletos o contradictorios producen respuestas obsoletas o contradictorias. Los permisos de acceso: la búsqueda debe respetar los permisos de su gestor documental; de lo contrario, un becario podría obtener una respuesta extraída de un documento de la dirección financiera. Y la evaluación: antes del lanzamiento, elabore una lista de preguntas reales con la respuesta correcta y el documento de origen correcto, y vuelva a pasarla cada vez que cambie el modelo, las instrucciones o la forma de fragmentar.

Los límites de los LLM en la empresa: alucinaciones, fugas de datos y costes

Alucinaciones

Un LLM produce el texto más verosímil, no el más cierto. Puede citar una cláusula inexistente o un importe inventado con la misma seguridad que una respuesta exacta. Cómo protegerse: exigir fuentes, permitir que el modelo responda «no lo sé», controlar automáticamente los campos extraídos (formatos, totales, referencias) y hacer revisar todo lo que salga de la empresa.

Fugas de datos

Pegar un contrato de un cliente en una herramienta de uso general equivale a transmitirlo a un tercero del que usted no controla ni los servidores, ni el plazo de conservación, ni siempre el uso que hará de él. Dentro de la empresa, un asistente mal compartimentado también puede mostrar información a quien no tiene derecho a verla. Una última trampa, menos conocida: un documento o un correo electrónico procesado por el modelo puede contener instrucciones ocultas que desvíen su respuesta. Por tanto, no conceda nunca a un asistente más acceso ni más capacidad de actuar que a la persona que lo utiliza.

Desviación de costes

Los modelos accesibles por API suelen facturarse por uso, según el volumen de texto enviado y generado. Un prototipo barato puede salir caro una vez generalizado, sobre todo si cada consulta incluye documentos largos. Mida el coste por tratamiento durante el piloto y fije límites antes de abrir el acceso.

Ley 09-08 y CNDP: ¿qué reglas rigen el envío de datos a un LLM?

La primera regla de gobernanza: clasificar los datos antes de enviarlos a un modelo. Para empezar bastan tres niveles de sensibilidad y una categoría transversal:

• Públicos: catálogo, páginas del sitio web, documentación comercial ya difundida.
• Internos: procedimientos, plantillas de documentos, notas organizativas.
• Confidenciales: contratos, ofertas de precios, datos financieros, código fuente.
• Personales, sea cual sea el nivel: todo lo que identifique a una persona (cliente, empleado, candidato), también dentro de un correo electrónico, un ticket o un currículum.

En Marruecos, los datos personales se rigen por la ley 09-08, la ley marroquí de protección de datos personales, cuyo cumplimiento supervisa la CNDP, la autoridad nacional de control de la protección de datos. Un tratamiento mediante IA sigue siendo un tratamiento: finalidad determinada, datos limitados a lo necesario, información a las personas afectadas y, según el caso, declaración o solicitud de autorización ante la CNDP. Algunas categorías, llamadas sensibles (salud, opiniones, creencias religiosas, origen…), están sujetas a normas más estrictas. La transferencia de datos personales al extranjero, frecuente con los servicios de IA en línea, también está regulada. Compruebe su situación con la CNDP o con su asesor jurídico antes de pasar a producción.

En la práctica, cada nivel recibe una regla de uso: datos públicos autorizados en cualquier herramienta; datos internos solo a través de un servicio validado por el departamento de sistemas de información; datos confidenciales y personales únicamente tras su anonimización, o mediante una solución cuyo alojamiento y contrato se hayan examinado.

Gobernanza de la IA generativa: supervisión humana y registro de actividad

• Un responsable por caso de uso, del lado del negocio, que valida el alcance y los resultados.
• Supervisión humana (human in the loop): todo resultado que comprometa a la empresa (respuesta a un cliente, decisión de RR. HH., documento contractual) se valida antes de enviarse.
• El registro de actividad: se conservan la consulta, las fuentes utilizadas, la versión del modelo y de las instrucciones, la respuesta y la validación, para poder explicar un resultado a posteriori. Estos registros contienen a su vez datos: protéjalos y fije su plazo de conservación.
• Los permisos de acceso: la herramienta hereda los permisos existentes, no crea otros nuevos.
• Una política de uso: qué pueden y qué no pueden introducir los empleados en las herramientas de IA, incluidas las de uso general.

Si interviene un proveedor externo, sus prácticas cuentan tanto como las suyas: consulte ISO 27001 y seguridad de los datos en un proveedor.

Cómo integrar la IA generativa en un proceso de negocio, paso a paso

1. Elegir un solo proceso: voluminoso, repetitivo, basado en texto, en el que un error se vea y pueda corregirse. La clasificación de reclamaciones se presta a ello; una decisión de crédito, no para empezar.
2. Medir la situación actual: tiempo de tratamiento, plazo de respuesta, tasa de retrabajo. Sin punto de partida, no hay ganancia demostrable.
3. Lanzar un piloto controlado: un equipo, documentos reales, datos clasificados, validación humana sistemática y registro activo.
4. Comparar: los mismos indicadores, más el coste por tratamiento y la proporción de respuestas corregidas por los usuarios.
5. Decidir: ampliar, ajustar o detener. Detener un piloto que no cumple lo prometido es un resultado, no un fracaso.
6. Industrializar: integración en el sistema de información, supervisión, presupuesto y acompañamiento de los usuarios.

Defina el alcance por escrito antes de consultar a proveedores: redactar un pliego de condiciones también sirve para la IA. Una vez estabilizado el primer caso, el siguiente paso suele ser encadenar varias acciones: es el tema de los agentes de IA en la empresa. Para la visión de conjunto, consulte la transformación digital de las pymes en Marruecos.

LLM para empresas en Casablanca: ¿qué garantías exigir a un proveedor?

Antes de firmar, haga preguntas precisas:

• ¿Dónde se alojan los modelos, los índices y los registros, y qué datos pasan por servicios de terceros?
• ¿Permiten las condiciones del proveedor del modelo reutilizar sus datos, por ejemplo para entrenamiento?
• ¿Cómo se compartimentan los accesos y qué se registra?
• ¿Cómo se controla y se limita el coste?
• ¿A quién pertenecen el código, las instrucciones y las configuraciones entregadas, y puede usted cambiar de modelo o de proveedor sin reconstruirlo todo?

Codevista Innovations, con sede en Casablanca y certificada ISO/IEC 27001:2022, integra la IA generativa y los LLM en los procesos de negocio existentes con una exigencia declarada: no comprometer la seguridad. Para definir un primer caso de uso, póngase en contacto con nosotros.

Preguntas frecuentes

¿Se puede usar una herramienta de IA de uso general con datos de clientes en Marruecos?

No es recomendable sin un marco. Los datos de clientes suelen ser datos personales en el sentido de la ley 09-08, y las herramientas de uso general los tratan con frecuencia en servidores situados fuera de Marruecos, según sus propias condiciones. Clasifique primero los datos, compruebe el alojamiento y el contrato del servicio, dé prioridad a la anonimización y consulte a la CNDP o a su asesor jurídico sobre los trámites aplicables.

¿Hay que entrenar un modelo de IA propio para usarlo con los documentos de la empresa?

En la mayoría de los casos, no. El enfoque RAG proporciona al modelo, en cada pregunta, los fragmentos pertinentes de sus documentos, sin entrenarlo con sus datos. Se implanta más rápido, sigue las actualizaciones de sus documentos y permite mostrar las fuentes de cada respuesta. Un entrenamiento específico se justifica sobre todo para formatos o un vocabulario muy particulares.

¿Cómo limitar las alucinaciones de un LLM en un proceso de negocio?

No se eliminan, se acotan. Proporcione fuentes al modelo y exija que se ciña a ellas, permítale responder que no lo sabe, controle automáticamente los importes, fechas y referencias extraídos y haga que una persona valide todo resultado que comprometa a la empresa. Registre las respuestas para detectar los errores recurrentes.

¿Por qué caso de uso conviene empezar con la IA generativa en la empresa?

Elija un proceso voluminoso, repetitivo y basado en texto, en el que un error se vea y se corrija fácilmente: clasificación de reclamaciones, extracción de datos de facturas, borradores de respuestas de soporte o búsqueda en los procedimientos internos. Mida el tiempo y la calidad actuales, lance un piloto limitado a un equipo y compare los resultados antes de decidir si ampliarlo.