Fet per confiar-hi. Pensat per auditar-se.
Principis d'una IA d'empresa amb dades a la UE
Quatre principis que sostenim en cada desplegament, des del primer pilot. No són eslògans: són decisions d'arquitectura que es poden comprovar.
Actualitzat
Per què els principis van abans que les funcions
Un entorn corporatiu d'intel·ligència artificial toca el més delicat que té una empresa: contractes, nòmines, historials, dades de clients que ni tan sols són seves. Abans de parlar de models o de panells convé deixar clar què fa el sistema amb aquesta informació, on l'envia i quin rastre deixa. Si això no està resolt, la resta és bastant igual.
El que no prometem
Cap detecció no és perfecta. Hi ha dades sensibles que no segueixen cap patró reconeixible i hi ha contextos on la decisió correcta depèn del criteri d'una persona. Treballem per reduir el risc de manera mesurable i per deixar constància de cada decisió, no per vendre una garantia que cap sistema no pot donar.
Com es comproven
El pilot comença en mode auditoria: durant uns deu dies el sistema observa però no talla, i al final tens un informe amb el que hauria sortit de la teva empresa sense cap control. Aquest informe és la prova. El nostre discurs, no.
Els quatre principis, en una frase cadascun
Dades a la UE: el que és sensible s'enruta a models allotjats a la UE i la resta surt sanejat. Sense entrenament: el contingut del teu equip no entrena models de tercers, i es fixa una vegada per a tota l'empresa. Registre d'evidències: cada decisió del perímetre queda anotada i és exportable. Accés únic: un login amb Google o Microsoft i les altes i baixes en un sol lloc.
A qui li serveix que estiguin escrits
Al responsable de seguretat o al DPO que ha de defensar l'ús d'IA davant de direcció. A qui dirigeix una gestoria, un despatx o una clínica i respon davant dels seus clients. I a qui a IT vol deixar d'apagar focs amb comptes personals. Els quatre principis són les preguntes que cadascun d'ells acaba fent, ordenades de més a menys urgent.
Preguntes freqüents
Què és un perímetre de dades per a IA?
Una capa que es col·loca entre les persones de la teva empresa i els models d'IA. Classifica cada petició abans que surti i aplica la teva política: deixar-la passar, emmascarar les dades sensibles, enviar-la a un model allotjat a la UE o europeu, o bloquejar-la.
Com puc comprovar que es compleixen aquests principis?
Amb el pilot en mode auditoria: durant uns deu dies el sistema registra què hauria fet sense tallar res, i l'informe final es verifica amb les teves pròpies dades. Després, el registre d'evidències queda exportable per a auditoria.
Què queda registrat de cada conversa?
Qui, quan, amb quin model, quines categories de dada s'han detectat, quina acció s'ha aplicat i quant ha costat. El contingut dels missatges no forma part d'aquest registre: es desa xifrat al dispositiu de cada persona i Acotia no el registra (la passarel·la el processa en memòria). Més a confiança.