L’IA accède à vos données. Mais qui décide de ce qu’elle peut voir?

Quand une entreprise branche l’intelligence artificielle à ses fichiers et plateformes de collaboration, chaque requête peut devenir une nouvelle porte d’accès à des renseignements sensibles. Qohash veut contrôler ce qui franchit cette porte avant que les données arrivent au modèle d’IA.

L’entreprise canadienne a dévoilé mercredi Qostodian Nexus à l’occasion de l’événement ALL IN, au Palais des congrès de Montréal. La technologie s’interpose entre les employés, les agents d’intelligence artificielle et les modèles de langage.

Son rôle est de reconnaître les données sensibles au moment où elles circulent et d’appliquer les politiques de sécurité de l’organisation avant leur transmission au modèle.

Concrètement, Nexus peut autoriser une requête, la bloquer ou caviarder certaines informations. L’analyse s’effectue directement dans l’environnement informatique du client, affirme Qohash, sans exporter le contenu vers ses propres systèmes.

La technologie vise notamment trois scénarios : un employé qui copie involontairement des renseignements sensibles dans une requête, l’ajout d’un fichier confidentiel ou encore un agent IA disposant d’un accès étendu à plusieurs sources de données internes.

Qostodian Nexus fonctionne sous forme de conteneurs installés dans l’environnement de l’organisation et se connecte à sa passerelle d’intelligence artificielle. Qohash affirme que l’inspection ajoute un délai de quelques millisecondes au traitement d’une requête.

Cette approche devient particulièrement importante avec la multiplication des agents IA. Contrairement à un utilisateur qui copie manuellement de l’information dans un robot conversationnel, un agent peut être autorisé à consulter plusieurs sources de données pour accomplir une tâche. Nexus cherche donc à appliquer les règles de sécurité au moment même où l’agent tente d’utiliser ces informations.

« Les données sensibles ne sont pas un actif fixe qu'on inventorie une fois pour toutes : elles bougent chaque jour, et c'est précisément au moment où elles bougent qu'il faut pouvoir décider », explique Jean Le Bouthillier, fondateur et PDG de Qohash.

Qohash indique avoir déposé deux brevets liés à sa technologie. L’entreprise annonce également un partenariat avec l’institut montréalais Mila, tandis que TELUS a participé au développement de cette capacité comme partenaire de conception.

Pour Qohash, le marché visé comprend notamment les institutions financières, les administrations publiques, les organisations de défense et de sécurité nationale, le secteur de la santé ainsi que les grandes entreprises qui commencent à déployer l’intelligence artificielle à grande échelle.