Le Conseil national de la sécurité des transports bloque l'accès aux dossiers après que l'IA a recréé les voix de pilotes décédés à partir de
Le Conseil national de la sécurité des transports restreint l'accès aux dossiers après la diffusion en ligne de reconstitutions vocales par IA
Le Conseil national de la sécurité des transports a temporairement retiré l'accès public à son système de dossiers après avoir découvert que des outils d'IA avaient été utilisés pour recréer les voix de pilotes tués dans un crash d'avion d'UPS l'année dernière, et que ces extraits audio circulaient en ligne.
L'agence a indiqué vendredi avoir rétabli l'accès au système de dossiers mais avoir maintenu 42 enquêtes fermées pendant qu'elle examine la question, y compris l'affaire concernant le vol UPS 2976 à Louisville, Kentucky.
L'incident met en lumière un problème croissant concernant les documents publics à l'ère de l'IA générative. La loi fédérale interdit au Conseil national de la sécurité des transports de placer des enregistrements audio de cockpit dans son système de dossiers, qui a longtemps été ouvert au public et contient une vaste documentation issue des enquêtes sur les accidents. Mais dans ce cas, le dossier du vol UPS comprenait un fichier de spectrogramme provenant de l'enregistreur de voix du cockpit.
Un spectrogramme convertit le son en image en cartographiant les fréquences et d'autres informations audio sous forme visuelle. Scott Manley, un vidéaste YouTube populaire qui couvre la physique, l'astronomie et les jeux vidéo, a signalé sur X que les données intégrées dans l'image pourraient potentiellement servir à reconstruire de l'audio.
C'est apparemment ce qui s'est passé. Selon le Conseil national de la sécurité des transports, des personnes ont pris le spectrogramme et la transcription disponible publiquement et ont utilisé des outils d'IA, y compris Codex, pour créer des approximations de l'audio de l'enregistreur de voix du cockpit issu du crash. Les voix recréées se sont ensuite propagées sur Internet.
La décision de l'agence de verrouiller le système de dossiers souligne comment même des données qui ne sont pas explicitement audio peuvent être transformées en quelque chose de beaucoup plus proche de l'enregistrement original lorsqu'elles sont associées aux outils d'IA modernes. Pour les enquêteurs et les régulateurs, cela soulève de nouvelles questions sur ce qui doit rester public et ce qui peut être déduit à partir de documents qui n'avaient jamais vocation à contenir les sons eux-mêmes.
Sources :
Naviguez en privé avec Doppler VPN — sans journalisation, connexion en une touche.