Microsoft nomme les deepfakes comme le plus gros problème de l’IA

Le président de Microsoft, Brad Smith, s’est dit préoccupé par la diffusion généralisée de contenus réalistes mais faux. Écrit à ce sujet Le gardien.

Lors d’un discours à Washington sur la réglementation de l’IA, Smith a appelé à des mesures pour reconnaître les deepfakes.

« Nous devrons résoudre les problèmes liés aux deepfakes. Nous devrons porter une attention particulière au fait que la plupart des opérations de cyber-influence étrangère sont déjà menées par le gouvernement russe, les Chinois, les Iraniens », a-t-il déclaré.

Smith pense que des mesures doivent être prises dès maintenant pour empêcher que le contenu légitime ne soit modifié par l’IA pour tromper les gens. Il a également appelé à l’octroi de licences pour les formes les plus importantes d’intelligence artificielle, avec “des obligations de protection de la sécurité”.

« Nous aurons besoin d’une nouvelle génération de contrôles à l’exportation […] pour s’assurer que nos modèles ne sont pas volés ou mal utilisés », a déclaré Smith.

Synchronisation avec OpenAI

La semaine dernière, le PDG d’OpenAI, Sam Altman parlait devant le Congrès américain, où il a appelé à la réglementation de l’IA. Le PDG de l’entreprise a également évoqué la possibilité de licencier les technologies les plus importantes afin que les développeurs répondent à certains critères.

Après cela, Altman s’est rendu en Europe, où il a rencontré les dirigeants de la Grande-Bretagne, de la France, de l’Allemagne et d’autres pays. Il est là déclaréqu’OpenAI devra quitter le marché de l’UE si l’entreprise ne peut pas respecter les “règles strictes” de la loi sur l’IA.

De nombreux experts et leaders d’opinion dans le domaine de l’intelligence artificielle soutiennent l’intention de réglementer la technologie. En mars, ils signé une lettre ouverte appelant à l’arrêt des expériences avec de grands modèles de langage.

Cependant, l’initiative a fait l’objet de critiques. Bill Gates, fondateur de Microsoft pensecette pause n’aidera pas à “pacifier” l’IA.

Selon le milliardaire, il devient de plus en plus difficile de ralentir l’intelligence artificielle à l’échelle mondiale. Au lieu de cela, le monde devrait se concentrer sur l’utilisation de la technologie pour le bien de la société.

Altman prise en charge quelques résumés de la lettre ouverte.

Les efforts de Microsoft pour lutter contre les deepfakes

Lors de la conférence Build 2023, Microsoft a présenté plusieurs services pour lutter contre les deepfakes. Dans les mois à venir, la société lancera une spécification C2PA pour valider les images et les vidéos pour Bing Image Creator ou Designer.

Aussi Microsoft introduit Outil de modération de contenu Azure AI Content Safety. Le service est formé pour détecter les images et les textes toxiques générés à la fois par les humains et l’intelligence artificielle.

Les modèles fonctionnent en plusieurs langues. Ils attribuent un niveau de risque au contenu et demandent au modérateur de prendre des mesures.

Rappelons qu’en mai, l’ancien patron de Google Eric Schmidt nommé IA une “menace existentielle” qui pourrait faire que de nombreuses personnes “se blessent ou meurent”.

Le même mois, l’investisseur milliardaire Warren Buffett a comparé l’intelligence artificielle à construire la bombe atomique et a exprimé sa consternation face au développement rapide de la technologie.

Vous avez trouvé une erreur dans le texte ? Sélectionnez-le et appuyez sur CTRL + ENTRÉE