Un homme aux cheveux gris traverse le hall d’un bureau, tenant une tasse de café et regardant droit devant lui alors qu’il passe devant l’entrée.
Il ne semble pas se rendre compte qu’il est surveillé par un réseau de caméras qui peuvent dire non seulement où il a été, mais aussi avec qui il a été.
La technologie de surveillance a longtemps été en mesure de vous identifier. Maintenant, avec l’aide de l’intelligence artificielle, ils essaient de découvrir qui sont vos amis.
En quelques clics, ce logiciel de “co-découverte” ou d'”analyse de corrélation” peut trouver toute personne qui est apparue sur les images de surveillance à quelques minutes de l’homme aux cheveux gris au cours du mois écoulé, et supprimer ceux qui auraient pu se trouver dans son voisinage. fois ou deux et je me concentrerai sur l’homme qui est apparu 14 fois. Le logiciel peut signaler instantanément les interactions potentielles entre deux hommes, désormais considérés comme des collaborateurs probables, sur un calendrier consultable.
Vintra, une société basée à San Jose qui a démontré la technologie dans présentation vidéo industrielle l’année dernière, il a vendu la fonctionnalité d’apparence commune dans le cadre d’une série d’outils d’analyse vidéo. Entreprise ils se vantent sur leur site O des relations avec les 49ers de San Francisco et le département de police de l’État de Floride. L’Internal Revenue Service et d’autres services de police à travers le pays ont payé les services de Vintra, selon une base de données des contrats gouvernementaux.
Bien que la technologie de co-apparition soit déjà utilisée par des régimes autoritaires comme celui de la Chine, Vintra semble être la première entreprise à la commercialiser en Occident, selon les experts du secteur.
Dans la première diapositive, le présentateur identifie le “but”. Dans le second, il trouve des personnes qui sont apparues dans le même cadre que lui en 10 minutes. Dans le troisième, la caméra capture un “compagnon” à la première personne.
(IPVM)
Mais l’entreprise est l’une des nombreuses à tester de nouvelles applications d’IA et de surveillance avec peu d’examen public et peu de garanties formelles contre les atteintes à la vie privée. En janvier, par exemple, des représentants de l’État de New York a critiqué la société propriétaire du Madison Square Garden pour avoir utilisé la technologie de reconnaissance faciale pour interdire aux employés des cabinets d’avocats qui ont poursuivi l’entreprise des événements dans l’arène.
Les experts de l’industrie et les chiens de garde disent que si l’outil d’apparence commune n’est pas utilisé maintenant – et un analyste s’est dit convaincu qu’il l’est – il est susceptible de devenir plus fiable et abordable à mesure que les capacités de l’IA se développeront.
Aucune des entités qui font affaire avec Vintra contactées par le Times n’a reconnu l’utilisation de la fonction d’apparence commune dans le progiciel de Vintra. Mais certains ne l’ont pas explicitement exclu.
Le gouvernement chinois, qui a été le plus agressif dans l’utilisation de la surveillance et de l’intelligence artificielle pour contrôler sa population, utilise des recherches d’apparence commune pour identifier les manifestants et les dissidents en reliant la vidéo à un vaste réseau de bases de données, ce que Vintra et ses clients ne pourraient pas faire. , a déclaré Conor Healy, directeur de la recherche gouvernementale pour l’IPVM, le groupe de recherche sur la surveillance qui a accueilli la présentation de Winter l’année dernière. La technologie de Vintra pourrait être utilisée pour créer une “version plus basique” des capacités du gouvernement chinois, a-t-il déclaré.
Certains États américains et gouvernements locaux restreignent l’utilisation de la reconnaissance faciale, en particulier dans le travail de la police, mais aucune loi fédérale ne s’applique. Selon Clare Garvie, spécialiste des technologies de surveillance, aucune loi n’interdit spécifiquement à la police d’utiliser des perquisitions complices comme Vintra, “mais la question reste ouverte” de savoir si cela violerait les droits constitutionnels à la liberté de réunion et les protections contre les perquisitions sans mandat. Assoc. nationale avocats dans le domaine de la défense pénale. Peu d’États ont des restrictions sur la façon dont les entités privées utilisent la reconnaissance faciale.
Département de police de Los Angeles a mis fin au programme de police prédictiveconnu sous le nom de PredPol, en 2020 au milieu des critiques selon lesquelles il n’a pas arrêté le crime et a conduit à police plus intense des quartiers noirs et latinos. Le programme a utilisé l’IA pour analyser de grandes quantités de données, y compris l’affiliation présumée à un gang, dans le but de prédire en temps réel où les crimes contre les biens pourraient se produire.
En l’absence de lois nationales, de nombreux services de police et entreprises privées doivent tenir compte par eux-mêmes de l’équilibre entre sécurité et confidentialité.
“C’est un futur orwellien qui prend vie”, a déclaré le sénateur Edward J. Markey, démocrate du Massachusetts. “L’état de surveillance profondément alarmant où vous êtes suivi, étiqueté et catégorisé pour être utilisé par des entités des secteurs public et privé – dont vous n’avez aucune connaissance.”
Markey prévoit de réintroduire un projet de loi dans les semaines à venir qui mettrait fin à l’utilisation de la reconnaissance faciale et des technologies biométriques par les forces de l’ordre fédérales et obligerait les gouvernements locaux et étatiques à les interdire comme condition de réception des subventions fédérales.
Jusqu’à présent, certains ministères disent qu’ils n’ont pas à voter en raison de problèmes de fiabilité. Mais à mesure que la technologie progresse, ils le feront.
Vintra, une société de logiciels basée à San Jose, a présenté “l’analyse de corrélation” à IPVM, un groupe de recherche d’abonnés, l’année dernière.
(IPVM)
La direction de Vintra n’a pas répondu aux multiples appels et courriels du Times.
Mais le PDG de la société, Brent Boekestein, s’est exprimé longuement sur les utilisations potentielles de la technologie lors d’une présentation vidéo avec IPVM.
“Vous pouvez monter ici et créer une cible basée sur ce type, puis voir avec qui il traîne”, a déclaré Boekestein. « Vous pouvez vraiment commencer à construire un réseau.
Il a ajouté que “96 % du temps, il n’y a aucun événement qui intéresse la sécurité, mais il y a toujours des informations que le système génère”.
Les quatre agences qui partagent la station de transport en commun de San Jose utilisée dans la présentation de Winter ont nié que leurs caméras aient été utilisées pour créer la vidéo d’entreprise.
Deux sociétés cotées sur le site Web de Vintra, les 49ers et Moderna, une société pharmaceutique qui fabrique l’un des vaccins les plus utilisés contre le COVID-19, n’ont pas répondu aux e-mails.
Plusieurs services de police ont reconnu avoir travaillé avec Vintra, mais aucun n’a spécifiquement déclaré avoir mené une recherche conjointe.
Brian Jackson, chef adjoint de la police de Lincoln, Neb., a déclaré que son département utilise le logiciel Vintra pour gagner du temps en analysant des heures de vidéo en recherchant rapidement des modèles tels que des voitures bleues et d’autres objets qui correspondent aux descriptions utilisées pour résoudre des crimes spécifiques. Mais les caméras auxquelles son département fait référence – y compris les caméras Ring et celles utilisées par les entreprises – ne sont pas assez bonnes pour faire correspondre les visages, a-t-il déclaré.
« Il y a des limites. Ce n’est pas une technologie magique », a-t-il déclaré. “Cela nécessite des entrées précises pour de bonnes sorties.”
Jarod Kasner, chef adjoint à Kent, Washington, a déclaré que son département utilise le logiciel Vintra. Il a dit qu’il n’était pas au courant de la fonction d’apparence conjointe et qu’il devra se demander si elle est légale dans son état, l’un des rares à restreindre l’utilisation de la reconnaissance faciale.
“Nous sommes toujours à la recherche d’une technologie qui peut nous aider car c’est un multiplicateur de force” pour un département aux prises avec des problèmes de personnel, a-t-il déclaré. Mais “nous voulons juste nous assurer que nous sommes dans les limites pour nous assurer que nous le faisons correctement et de manière professionnelle.”
Le bureau du shérif du comté de Lee en Floride a déclaré qu’il n’utilisait le logiciel Vintra que sur les suspects et non “pour suivre les personnes ou les véhicules qui ne sont soupçonnés d’aucune activité criminelle”.
Le département de police de Sacramento a déclaré dans un e-mail qu’il utilisait le logiciel Vintra “avec parcimonie, voire pas du tout”, mais n’a pas précisé s’il avait déjà utilisé la fonction d’apparence conjointe.
“Nous sommes en train de revoir notre contrat Vintra et de savoir si nous continuerons à utiliser ses services”, a déclaré le département dans un communiqué, qui a également déclaré qu’il ne pouvait pas indiquer de cas où le logiciel a aidé à résoudre des crimes.
Dans un communiqué, l’IRS a déclaré qu’il utilisait le logiciel Vintra “pour examiner plus efficacement de longs enregistrements vidéo à la recherche de preuves dans la conduite d’enquêtes criminelles”. Les responsables n’ont pas précisé si l’IRS utilisait l’outil de co-découverte ni où se trouvaient les caméras, mais seulement qu’il suivait “les protocoles et procédures établis de l’agence”.
Jay Stanley, un avocat de l’American Civil Liberties Union, qui a d’abord attiré l’attention sur la présentation vidéo de Vintry l’année dernière article de blog, dit qu’il n’est pas surpris que certaines entreprises et certains départements se méfient de son utilisation. D’après son expérience, les services de police déploient souvent de nouvelles technologies “sans dire, et encore moins demander la permission, aux surveillants démocratiques comme les conseils municipaux”.
Le logiciel pourrait être utilisé à mauvais escient pour suivre les associations personnelles et politiques, y compris les partenaires intimes potentiels, les militants syndicaux, les groupes anti-police ou les rivaux partisans, a averti Stanley.
Danielle VanZandt, qui analyse Vintra pour la société d’études de marché Frost & Sullivan, a déclaré que la technologie était déjà utilisée. Parce qu’elle a examiné des documents confidentiels de Vintra et d’autres sociétés, elle a des accords de non-divulgation qui lui interdisent de discuter des sociétés individuelles et des gouvernements qui peuvent utiliser le logiciel.
Les détaillants, qui collectent déjà d’énormes quantités de données sur les personnes qui entrent dans leurs magasins, testent également le logiciel pour voir “qu’est-ce qu’il peut me dire d’autre?”, A déclaré VanZandt.
Cela pourrait inclure l’identification des membres de la famille des meilleurs clients de la banque pour s’assurer qu’ils sont bien traités, une utilisation qui soulève la possibilité que ceux qui n’ont pas de richesse ou de liens familiaux reçoivent moins d’attention.
“Ces problèmes de biais sont énormes dans l’industrie” et sont activement traités par le biais de normes et de tests, a déclaré VanZandt.
Tout le monde ne croit pas que la technologie sera largement adoptée. Les forces de l’ordre et les agents de sécurité des entreprises trouvent souvent qu’ils peuvent utiliser des technologies moins invasives pour obtenir des informations similaires, a déclaré Florian Matušek de Genetec, une société d’analyse vidéo qui travaille avec Vintra. Cela inclut la numérisation des systèmes d’entrée de tickets et des données des téléphones mobiles qui ont des fonctions uniques mais ne sont pas liées à un individu.
“Il y a une grande différence entre les fiches produits et les vidéos de démonstration et les choses réelles qui sont déployées sur le terrain”, a déclaré Matusek. “Les utilisateurs trouvent souvent qu’une autre technologie peut tout aussi bien résoudre leur problème sans avoir à passer par toutes les étapes de l’installation de caméras ou des solutions de contrôle de la confidentialité.”
Matušek a déclaré qu’il n’était au courant d’aucun client de Genetec utilisant la co-découverte que sa société ne propose pas. Mais il ne pouvait pas l’exclure.
