Otter.ai poursuivi pour violation de la vie privée (IA et consentement)

Un défi juridique croissant jette une ombre sur la commodité des services de prise de notes et de transcription alimentés par l’IA, des outils populaires dans le paysage entrepreneurial actuel. Une action en justice collective, récemment déposée devant un tribunal de district californien au nom du plaignant Justin Brewer, allègue qu’Otter.ai, un service de transcription éminent, enregistre les utilisateurs et exploite leurs voix et leurs données pour entraîner ses modèles d’intelligence artificielle sans obtenir de consentement explicite. Cette plainte a des implications significatives, non seulement pour Otter.ai mais aussi pour d’autres applications largement utilisées d’enregistrement d’appels et de prise de notes comme Read.ai et même Google Gemini.

La poursuite affirme qu’Otter.ai enregistre tous les participants à une conversation, y compris ceux qui ne sont pas des utilisateurs d’Otter et n’ont pas donné leur autorisation, une pratique potentiellement en violation des exigences de consentement en Californie et dans d’autres États. De plus, elle allègue que l’entreprise utilise ces enregistrements vocaux pour affiner ses outils d’IA de reconnaissance vocale. La plainte souligne spécifiquement que si les utilisateurs d’Otter peuvent être conscients et à l’aise avec le service enregistrant leurs réunions, les non-utilisateurs sont souvent ignorants et ne sont certainement pas sollicités pour leur permission. L’équipe juridique de Brewer soutient que ses droits à la vie privée ont été violés, suggérant que les pratiques d’Otter.ai pourraient contrevenir aux statuts fédéraux tels que l’Electronic Communications Privacy Act et le Computer Fraud and Abuse Act, ainsi qu’à de nombreuses lois californiennes. Avec plus de 100 plaignants potentiels partageant les préoccupations de Brewer, les plaignants visent à procéder en action collective.

Cette action en justice signale une remise en question plus large de la prolifération des applications de transcription au sein des entreprises. Johannes Ullrich, doyen de la recherche pour le SANS Technology Institute, suggère que de nombreuses entreprises d’IA ont adopté une approche de « bouger vite et casser des choses », ignorant souvent les subtilités des lois sur le droit d’auteur et les écoutes téléphoniques. Il avertit qu’exiger une permission explicite de tous les participants à un appel pourrait fondamentalement remettre en question les modèles commerciaux de nombreuses de ces applications de prise de notes et d’assistant personnel.

Otter.ai, qui compte plus de 25 millions d’utilisateurs mondiaux et a récemment célébré 100 millions de dollars de revenus annuels, se retrouve au centre de ce débat. Le service “Otter Notetaker” de l’entreprise s’intègre parfaitement aux plateformes comme Google Meet, Zoom et Microsoft Teams, enregistrant les participants aux réunions quel que soit leur statut d’utilisateur Otter. La politique de confidentialité de l’entreprise stipule explicitement l’utilisation des voix des participants pour entraîner son IA de reconnaissance vocale. En réponse à la plainte, un porte-parole d’Otter.ai a affirmé l’engagement de l’entreprise envers la sécurité et la confidentialité des données, déclarant : « Personne ne devrait être enregistré à son insu ou sans sa permission, quel que soit l’appareil d’enregistrement utilisé. » Le porte-parole a ajouté qu’Otter Notetaker vise à libérer les utilisateurs pour qu’ils participent plus pleinement aux réunions et que les utilisateurs sont encouragés à être transparents et à demander la permission lors de l’enregistrement de conversations.

Otter.ai souligne qu’il n’initie pas les enregistrements de manière autonome ; au contraire, les enregistrements sont déclenchés par les utilisateurs d’Otter, et les Conditions de Service de l’entreprise stipulent clairement que les utilisateurs sont responsables de l’obtention de toutes les permissions nécessaires. L’entreprise prétend fournir aux utilisateurs les exigences locales, étatiques et fédérales applicables pour l’enregistrement. Cependant, la poursuite rétorque qu’Otter.ai tente de « transférer la responsabilité », sous-traitant ses obligations légales aux titulaires de compte au lieu de chercher directement le consentement de chaque individu qu’il enregistre, comme l’exige la loi. La plainte note également que si certaines applications de transcription concurrentes, comme Read.ai, permettent à tout participant, y compris les non-titulaires de compte, d’arrêter un enregistrement pendant une réunion, Otter n’offre pas cette fonctionnalité.

Les plaignants allèguent en outre qu’Otter.ai ne parvient pas à obtenir le consentement préalable des participants ni à les informer que leurs conversations sont utilisées pour entraîner les modèles de reconnaissance automatique de la parole et d’apprentissage automatique de l’entreprise, ce qui profite financièrement à l’activité d’Otter. Ils décrivent Otter Notetaker comme une « entité tierce distincte et séparée » qui ne cherche principalement le consentement qu’auprès de l’hôte de la réunion. La plainte souligne également qu’Otter.ai peut rejoindre des réunions sans envoyer d’invitations ou de notifications pré-réunion à moins qu’un paramètre spécifique (qui est désactivé par défaut) ne soit activé, et qu’il ne fournit pas de lien vers sa politique de confidentialité lors de l’intégration à une réunion. Bien qu’Otter.ai déclare entraîner son IA propriétaire sur des « enregistrements audio dé-identifiés » et des transcriptions, la poursuite remet en question l’efficacité de cette dé-identification, citant des recherches scientifiques suggérant que même des procédures sophistiquées peuvent être peu fiables et notant la politique d’Otter de rétention indéfinie des données.

Ce nouveau territoire pour la prise de notes par IA diffère fondamentalement des systèmes d’enregistrement d’appels traditionnels. Comme l’explique Ullrich de SANS, les anciens systèmes confinaient généralement les enregistrements à la personne ou à l’organisation qui les effectuait. Avec l’IA, le fournisseur accède à ces enregistrements, soulevant des préoccupations déjà vues avec d’autres assistants vocaux, comme Siri d’Apple. Fritz Jean-Louis, conseiller principal en cybersécurité chez Info-Tech Research Group, souligne l’impératif éthique d’une innovation sûre et efficace dans la transcription basée sur l’IA. Il avertit que la transcription non autorisée peut compromettre la confidentialité, exposer des communications privilégiées et éroder la confiance. Les entreprises mettant en œuvre de telles technologies devraient être parfaitement conscientes des lois sur le consentement dans toutes les juridictions opérationnelles, établir des procédures claires pour les divulgations lors des réunions enregistrées, et faire preuve de prudence lors de l’utilisation de la transcription dans des contextes sensibles comme les discussions juridiques ou de ressources humaines. De plus, elles doivent examiner les logiciels tiers pour une sécurité et une gouvernance des données robustes, et former les employés sur les implications éthiques de l’utilisation des enregistrements transcrits. Jean-Louis conclut que des exigences de consentement plus strictes ne signifient pas la fin de la technologie de transcription ; l’industrie doit plutôt s’adapter, en équilibrant la commodité et la responsabilité.