et si les robots prenaient le pouvoir ?

[tisiphoné]

Les machines vont-elles être plus intelligentes que les hommes? Des scientifiques se demandent s'il n'est pas temps d'imposer des limites à leurs propres recherches sur l'intelligence artificielle. Explications.

Des machines vont-elles dans un futur proche échapper au contrôle de l'homme et devenir totalement autonomes? Cette vieille lune chère aux auteurs de science fiction -les robots prenant le pouvoir- ne parait plus totalement impensable aux scientifiques.

En février dernier, un groupe de spécialistes de l'intelligence artificielle et de la robotique s'est réuni dans le plus grand secret à Asilomar, une petite ville de Californie, pour discuter des risques de dérives incontrôlables liés aux avancées fulgurantes réalisées ces dernières années par la recherche dans leur domaine. Alors que la puissance des microprocesseurs double tous les deux ans depuis leur invention, alors qu'apparaissent des logiciels capables de mener de véritables conversations et des virus informatiques de plus en plus difficiles à exterminer, alors que les militaires mettent au point des drones et des machines capables de tuer de façon autonome, certains scientifiques se demandent s'il n'est pas temps d'imposer des limites à leurs propres recherches.

[Jarod1]

On se croirait dans Terminator.

[Sov Strochnis]

Je crois que c'est tout à fait possible. Même si les robots n'auront pas ce que tout le monde aime à nommer sans savoir "âme", il est évident que si ils deviennent plus complexes ça peut dériver. A une échelle moins grande on connait le robot qui devine ce qu'on pense, c'est grâce à un système qui accumule les possibles. Imaginez qu'à une autre échelle un robot accumule les choix, les réactions...Ajoutez à cela des robots qui peuvent se démultiplier en fonction du matériel qu'ils ont à disposition (roue, vis, fils éléctriques.) bref, pour le moment on est loin des machines de type humanoïdes.

Sans exagérer, les machines ne font-elles pas à la place de l'homme plusieurs choses ? Si les machines ne deviennent pas assez complexes pour entreprendre une attaque, c'est l'homme lui même qui se laissera abattre par sa flemme et son ignorance sur les machines qu'il utilise. Dans Wall-e, les gens sont devenus gras, ils ne bougent plus, toute la robotique fait le reste, et cela non avec conscience ou avec une âme...mais simplement de manière automatique.

[Papymataf]

Il ne faut pas crier au loup trop vite.

Tout d'abord, la technologie arrive à ses limites. La miniaturisation en est arrivée à un point difficilement franchissable actuellement. Dès lors, la recherche de puissance actuelle se fait via des formes de mises en réseau et plus par le hardware en lui-même.

Un deuxième point important est qu'une machine est limitée à ce qu'elle connaît ou, éventuellement, à ce qu'elle peut apprendre (et encore, basé uniquement sur des méthodes mathématiques). La machine ne peut pas "inventer", elle n'a aucune part d'"imaginaire".

Nous pourrions avoir un problème le jour où l'on connaîtra parfaitement, et dans les moindres détails, le fonctionnement du corps humain et du cerveau. Hors, en ce domaine, nous sommes encore très loin du compte. Il est impossible pour l'homme de créer quelque chose qu'il ne connaît pas lui-même.

L'intelligence est la possibilité de prendre une décision dans une situation donnée. Pour prendre une décision, vous devez posséder des informations (au plus vous en avez, au plus votre décision a des chances d'être la bonne).

Dans le domaine des systèmes d'arme (et de la robotique en générale), la recherche d'information se fait via des capteurs (des senseurs). Nous avons notre premier facteur d'erreur.
Prenons un exemple simpliste: les radars de navigation "intelligents". Ce système permet aux navigateurs d'avoir l'ensemble des informations de leur environnement sur un seul écran => carte, navires aux alentours, vitesse du courant, du vent, etc... Se basant sur ce système magnifique, certaines compagnies de marine marchande n'hésitent pas à laisser les commandes à une seule personne (puisque même les commandes se font automatiquement). Et pourtant, ce système a ses limites. Si un navire arrive vers vous avec une certaine vitesse et un certain angle, le radar pensera qu'il est à l'arrêt ou carrément qu'il s'éloigne! Ceci est du à la technologie en elle-même (aux limites de la détection par effet doppler). Seul l'homme, de par sa capacité inégalable à gérer les informations pourra se rendre compte que c'est une erreur.

La seconde source d'erreur réside dans la prise de décision elle-même. De grands scientifiques ont essayé de rédiger des modèles mathématiques dans le domaine de la prise de décision. De belles et grandes formules mais qui connaissent également leurs limites. Un petit exemple:
Un ingénieur de la faculté polytechnique de l'Ecole Royale Militaire avait fait son mémoire sur un modèle mathématique de chargement d'un camion. Après des mois et des mois de recherche, il arrive dans une caserne et fait mettre en pratique son modèle tout beau et tout neuf. Les caporaux exécutent sans rien dire ... Après la démonstration, les caporaux se mettent à rire. Le jeune Lieutenant demande la raison de ce fou rire... Les caporaux demandent l'autorisation au Lieutenant de pouvoir recommencer le chargement avec leur propre méthode. Résultat, le camion a été chargé bien plus vite que selon le modèle du jeune Lieutenant. Pourtant, après analyse des différents professeurs, la formule et le modèle étaient parfaitement correctes. La raison de cette différence est simple: la méthode des caporaux n'était pas rationnelle mais basée sur des années d'expériences.
La machine ne peut que suivre des méthodes, des processus rationnels basés sur des principes mathématiques.L'irrationnel est impossible: pas de bluff, pas de créativité.

En conclusion, l'ère de la machine qui dépasse l'homme n'est pas encore pour tout de suite. Si la recherche d'information et les actions peuvent être , en partie, délégués à la machine, l'analyse et la prise de décision resteront la propre de l'homme aussi longtemps que la machine sera incapable d'avoir des émotions et de la créativité.

[mum401]

Prenons un exemple simpliste: les radars de navigation "intelligents". Ce système permet aux navigateurs d'avoir l'ensemble des informations de leur environnement sur un seul écran => carte, navires aux alentours, vitesse du courant, du vent, etc... Se basant sur ce système magnifique, certaines compagnies de marine marchande n'hésitent pas à laisser les commandes à une seule personne (puisque même les commandes se font automatiquement). Et pourtant, ce système a ses limites. Si un navire arrive vers vous avec une certaine vitesse et un certain angle, le radar pensera qu'il est à l'arrêt ou carrément qu'il s'éloigne! Ceci est du à la technologie en elle-même (aux limites de la détection par effet doppler). Seul l'homme, de par sa capacité inégalable à gérer les informations pourra se rendre compte que c'est une erreur.

hyper flippant ! c'est là ou l'expérience de l'humain fait la "petite" différence...enfin j'epére que le commandant ou le barreur ne se fie pas qu'au radar...

[capitaine]

Les bateaux militaires sont en général mieux équipés,
mais aussi , en raison des quarts, il y a toujours une relève périodique des gens, qui amène à une meilleure concentration à la passerelle.
Par contre sur les navires de marine marchande, c'est une autre vision.
Un commandant sur un navire avait organisé à l'arrière un barbecue..
Au bout d'un long moment, je m'était aperçu que TOUT le monde y participait...

[mum401]

je vais de ce pas appeler ma cousine qu'elle tienne bon la barre ! :content115