Les dangers de l'intelligence artificielle en 2019

Les dangers de l'intelligence artificielle en 2019

Si nous avons appris quelque chose en 2018, c'est que les algorithmes et les plates-formes sociales sont sous-réglementés, qu'ils peuvent facilement devenir des armes et que la cybersécurité est une menace croissante.

Nous avons appris que Huawei, une entreprise technologique parrainée par l'État en Chine, est considérée comme un risque pour la sécurité nationale par les États-Unis, l'Australie, la Nouvelle-Zélande, le Japon, l'Allemagne et peut-être le Canada et le Royaume-Uni.

Nous avons également appris que Google et Microsoft vendent leurs services aux États-Unis. gouvernement, souvent contre la volonté de leurs propres employés et au meilleur jugement éthique. La tendance à faire passer les profits avant l'éthique et l'intégrité est très dangereuse pour l'humanité.

Au lieu de penser au battage médiatique de l'IA, nous devons être plus sceptiques quant à la direction que pourrait prendre l'IA en tant que civilisation. Nous vivons à une époque où les menaces existentielles à notre survie seront de plus en plus exponentielles avec nos expériences technologiques.

Tout cela pour dire que les dangers de l'intelligence artificielle (même à ses débuts) semblent bien réels. Vous n'avez pas besoin d'écouter Elon Musk ou Stephen Hawking pour voir comment une IA non réglementée peut mener à des catastrophes et à des crimes contre l'humanité.

Si AI est devenu un dictateur immortel (si elle s'est modelée sur le gouvernement chinois, c'est un scénario crédible). Il n'y a pas que le Musc qui en est arrivé là.

Dans l'intérêt de mon ami Travis Kellerman, j'ai donc décidé de jeter un coup d'œil rapide sur certains des dangers tels que je les vois.

1. Google, Microsoft et Facebook ne sont pas réglementés

Si Google, Microsoft et Facebook continuent sur la voie de l'intelligence artificielle sans réglementation interne et externe, l'audit et la fermeture de monitoring - they pourrait développer et vendre des technologies qui représenteraient un risque pour les citoyens du monde. Avec Amazon vendant de la technologie de reconnaissance faciale à la police en 2018, nous nous sommes engagés sur une voie dangereuse. Avec les rumeurs selon lesquelles Google tenterait de développer un moteur de recherche censuré pour la Chine, les limites de l'éthique dans la Silicon Valley s'estompent.

2. La Chine remporte la course à l'IA avec son propre sens autoritaire de l'éthique en IA

Il est plus que probable que Huawei, Alibaba, Baidu, Tencent, ByteDance et d'autres gagnent la course à l'implantation technologique de l'intelligence artificielle. C'est parce que la Chine a

Un plus grand bassin de données sur les consommateurs pour former l'apprentissage machine

Avoir des démarrages de reconnaissance faciale de qualité supérieure

Avoir les débuts d'un système de crédit social qui évalue les citoyens

Pratiquer la surveillance de masse, en particulier dans le domaine de l'éducation à partir de 2019

Cela signifie que si la Chine rattrape son retard en intelligence artificielle, en intelligence artificielle et avec une mise en œuvre plus audacieuse de ces technologies, la future superpuissance dominante dans ce domaine et ses valeurs (la Chine s'écarte des normes relatives aux droits de l'homme), son système de valeurs l'emportera comme norme mondiale pour la réglementation de l'intelligence artificielle (quoi que ce soit).

3. Si l'identification faciale est mise à l'échelle d'un État de surveillance mondiale

Il n'est pas nécessaire d'avoir lu 1984 pour comprendre à quoi pourrait ressembler un grand frère Etat du monde. Il est fort probable que la prochaine superpuissance mondiale avec une puce sur l'épaule voudrait mettre en œuvre une telle chose. Compte tenu de la guerre commerciale et des nombreux malentendus de la Chine aux prises avec des problèmes diplomatiques, et du fait qu'elle sera la superpuissance économique et technologique du XXIe siècle, il est fort probable que la Nouvelle Chine mettra en œuvre une telle chose. La Chine possède les meilleures start-ups de technologie de reconnaissance faciale au monde et l'infrastructure de capital-risque pour mettre à l'échelle des entreprises qui peuvent mettre en œuvre l'état de surveillance de la collecte de données le plus massif dans le monde.

Le réseau de vidéosurveillance et le programme de reconnaissance de la Chine sont bien documentés. Lorsque la collecte de données est la voie de la suprématie, il semble que la Chine ne laissera pas une petite chose comme "l'éthique" ou la liberté des droits individuels entraver ses plans. Le problème, bien sûr, c'est que les Chinois les plus riches planifient un exode hors de Chine. Comment les Chinois attirent-ils les talents de l'intelligence artificielle à l'échelle mondiale dans un tel climat ?

4. L'apprentissage en profondeur a accès à nos données sur les soins de santé

Il y a toutes les indications qu'Amazon et Google ont des machines qui apprennent à faire des analyses prédictives sur nos dossiers médicaux électroniques (DME). Cela représente un grave danger pour la façon dont l'IA évolue avec nos données sur la santé sans notre permission. Les ambitions de Google MedicalBrain pourraient devenir dangereuses à une époque où il peut faire avancer les choses sans une réglementation appropriée, la prudence nécessaire et une surveillance rigoureuse par des organismes neutres.

Le fait qu'Amazon s'attaque aux soins de santé et que Google renforce un projet de recherche préliminaire appelé Medical Digital Assist, qui explore les moyens d'utiliser l'intelligence artificielle pour améliorer les visites chez le médecin, semble assez innocent, mais cela pourrait mal tourner très rapidement. Google en particulier parmi les leaders de l'apprentissage machine ont montré des manquements à l'éthique au plus haut niveau de leur leadership exécutif et de leur stratégie.

L'utilisation de l'apprentissage machine pour tuer des machines est un exemple notable en 2018. La poussée des entreprises de technologie vers les soins de santé signifie qu'elles mettent la main sur nos données " vie et mort ". Ce mouvement a déjà commencé et cela pourrait signifier que nos vulnérabilités les plus effrayantes pourraient être piratées. Qu'est-ce qui pourrait mal tourner ?

5. Armes autonomes

Vous n'avez pas besoin d'être Bill Gates ou d'avoir vu la série Terminator pour vous rendre compte qu'il pourrait être une mauvaise idée d'assurer la surveillance de l'IA pour les armes. Quand Google a aidé l'armée à utiliser l'apprentissage machine pour améliorer les drones tueurs, on a dû se demander si la Silicon Valley prend ces dangereux au sérieux.

Les dictateurs voient l'intelligence artificielle comme une opportunité

Le président russe Vladimir Poutine a déclaré : "L'intelligence artificielle est l'avenir, non seulement pour la Russie, mais pour toute l'humanité. Elle s'accompagne d'énormes opportunités, mais aussi de menaces difficiles à prévoir. Celui qui deviendra le leader dans cette sphère deviendra le chef du monde."

Et si les dictateurs du futur n'étaient pas des hommes en voyage de pouvoir, mais de véritables IA capables de pirater n'importe quel système ? Le monde doit se préparer à cette possibilité que l'apprentissage machine évolue de manière plus indépendante et plus agressive à l'avenir. Comment pouvez-vous même éteindre un tel système ?

Les drones tueurs en sont un exemple précoce, mais les armes autonomes sont un spectre assez large dans un monde où nous sommes manipulés et exploités pour le profit de toutes parts. Les organisations militaires et les agences de sécurité nationale de ce monde ne sont pas susceptibles d'utiliser l'IA de manière bénigne.

Le nationalisme sur l'IA, c'est comme si nos enfants prenaient de la drogue (l'épidémie d'opioïdes), une combinaison mortelle.

6. Les interactions entre l'IA et l'humain détournent l'intimité humaine

Nous avons déjà vu ce que font les taux d'accoutumance mobile face à face les rencontres entre jeunes (qui ont moins de relations sexuelles que n'importe quelle génération jamais). Qu'advient-il de l'intimité humaine dans un monde de "compagnons d'IA" omniprésents, de robots sexuels et de technologies encore plus addictives et immersives ?

Les entreprises de technologie sont en train de construire des assistants personnels qui non seulement pourront nous aider à organiser tous les aspects de notre vie, mais qui finiront par nous donner un sentiment de camaraderie, un soutien psychologique et peut-être même une connexion émotionnelle.

Les gens pourraient devenir dépendants de ces assistants Voice-AI pour plus que de la commodité dans un monde en proie à la solitude technologique. Les ingénieurs le construisent et les entreprises technologiques comptent sur lui pour réaliser d'importants profits à l'avenir. L'association d'IA est une entreprise lucrative de l'avenir.

7. Amazon s'apprête à devenir le Huawei américain

Tout porte à croire qu'Amazon obtiendra le contrat JEDI du Pentagone de 10 milliards de dollars pour l'informatique dans les nuages. Avec une partie de leur QG2 en Virginie, le lobbying auprès de Washington va devenir encore plus intense. Amazon Prime est susceptible de lancer un jour un abonnement de 1492 $ pour tous les avantages qu'il offrira en termes de santé numérique dans la maison intelligente, qu'Amazon possède de plus en plus avec Alexa.

L'Amérique peut devenir un agent du gouvernement tout comme Huawei a été associé à une "porte dérobée" autoritaire du gouvernement chinois dans les réseaux 5G, commutateurs et réseaux. Si Huawei devenait le Cisco et la Pomme de Chine, l'Amazone pourrait-elle devenir ?

Amazon pourrait être bien plus qu'un monstre de l'épicerie et de la vente au détail, elle pourrait devenir trop puissante pour son propre bien et apporter l'intelligence artificielle au consommateur, d'une manière qui pourrait facilement être abusée et devenir un miroir noir dans l'avenir. Au fur et à mesure qu'ils commenceront à se développer dans la publicité, cela deviendra de plus en plus évident.

Une Amazonie qui est un chef de file de la biotechnologie, de l'augmentation humaine, de l'intelligence artificielle et de la publicité personnalisée n'est pas si difficile à imaginer. Où est le mal dans ce droit ?