www.messagers-galactiques.com

[Post #00000146 : 'Les Intelligences artificiels dans Mega']Wed Jan 14 02:59:22 CET 1970

Les Intelligences artificiels dans Mega

Pour lancer le débat, je vais présenter plusieurs points qui pourront être contradictoires

1/
Les lois de la robotique de « Isaak Asimov » (l’auteur du cycle de Fondations) ont déjà été prise en compte dans les précédentes versions de Mega ; je propose donc de les conserver tout en rajoutent ceci :

Leur emploie comme base de développement des IA dans l’Assemblée galactique a été retenu pour éviter un phénomène de psychose des êtres vivants face aux machines qui pourrait les supplanter (une forme de racisme de haut niveau)…
Les lois de la robotique assurent aux êtres vivant que les robots resteront leurs esclaves, mais ai ce que tous les robots ont pour base ses fameuses lois ?…

2/
Les I.A ont un gros handicap dans leur auto apprentissage :
Elles vont trop vite et n’ont pas de garde-fou contre la démence torse qu’elles accèdent a la conscience… ce qui donne des naufrages psychotiques très dangereux ou des suicides !
(C’est l’idée qui a été retenue dans l’encyclopédie galactique le souplement pour « Empire galactique »)

Le danger viendrai de la nécessitée d’interagir avec le monde extérieur (ou alors un monde virtuel) afin d’apprendre et de construire leurs personnalité ;
Si l’IA « pète les plomb », bonjour les dégâts (rappelez-vous HAL l’ordinateur dans « 2001 l’odyssée de l’espace »)

3/
L’encrage psychologique des IA
C’est la façon personnelle à chaque IA de répondre aux questions existentielles ;
Que suis je et pourquoi ?

Avec les lois de la robotique pas de problèmes existentiels (un peut comme dans le roman « Le meilleur des mondes » de Aldous huxley) les robots ont des buts a leur existence
(Sa rappelle aussi la devise de la police étasunienne « to protect and serv »

Maintenant nous pouvons imaginer d’autres formes d’encrage psychologique…


4/
La fragilité des IA :
Certaines fréquences d’ondes pourraient facilement détruire le cerveau d’une IA
Sauf si elle se trouve dispatchée dans un réseau planétaire voir multi planétaire.
(A nouveau une allusion a fondation et la pauvre « Dors Venabili »)

5/
Leurs capacités :
Elles sont très supérieur a celles de la plupart des êtres vivants conscients

6/
Leurs faiblesses :
Elles manque cruellement d’imagination et ont de grandes difficultés a extrapoler a partir d’élément insuffisants pour une analyse logique (elles ne devrais pas être bien performantes pour faire de l’improvisation dans un jdr

[Post #00000160 : 'les drones...']Wed Jan 14 03:01:25 CET 1970

ok quoique cela peut varier d'une civilisation a l'autre.

Dans La Culture (le cycle de SF du meme nom), que j'ai deja citée, on retrouve des drones et des IA partout, qui sont l'egal ( consideré comme tel) des humains.

Elles ont d'ailleur leur propres personnalitées. Leur relation aux humains parait etre de l'ordre de celle que nous avons avec nos amis...ou nos animaux domestiques, toutes proportions gardées.

Leur encrage psychologique : s'occuper des humains, ils sont tellement fragiles et amusants !

il faut dire que la Culture a un niveau NT tres avancée, peut etre un des plus avancés connu, si on considere la taille de leur civlisation...

[Post #00000164 : '']Wed Jan 14 03:03:27 CET 1970

une autre vision des IA, pas incompatible avec ce qui a deja été proposé, est la possibilité pour les IA d'acquérir le statut d'etre "vivant et libre"

(idée tirée de "l'I.A. et son double" de Scott Westerfeld)

cette posibilité est atteinte en dépassant un certain "quotient de Turing"
régulierement vérifié.
à noté la sympathique référence à Turing, que les férus d'informatique ne peuvent manquer de connaitre, au meme titre que les trois lois de la robotique d'Asimov.

au sujet des I.A. de la Culture, elles sont effectivement tres évoluées et sont les égales de l'homme (ou Alien ?), elles rejoignent en cela les robots d'Asimov que l'on retrouve tres évolués dans le cycle fondation.

est-ce vraiment une bonne chose de les inclure dans Mega ?

[Post #00000168 : '']Wed Jan 14 03:03:32 CET 1970

Des IA au même niveau que les humains sa enlève pas mal de possibilités de scénarios (Même si, sa peut en rajouter quelques autres…)

Je propose de les cantonner a certaines univers parallèles par exemple ceux légèrement moins « cohérents » que le notre (a fin de leur donner plus de souplesse que peut leur enlever le coté mécanique infaillible)
Un peut comme dans le roman « Un feu sur l’abîme » de Vernor Vinge (voir dans la rubrique inspiration)
Les IA évoluées ne peuvent fonctionner que dans certain régions de la galaxie (dans Mega sa peut être remplacé par d’autres univers parallèles)

Trundorn tu pourrait nous faire une inspi sur « l'I.A. et son double » de Scott Westerfeld


Je suis entrain de mûrir une campagne sur les IA « supérieur » (personnalité, autonomie, adaptation)
Mon souci a été de ne pas trop dévaloriser les humains fasse aux IA
La solution que j’ai le plus envisagée se situe au niveau de « l’encrage psychologique »
Qui devient plus que nécessaire au IA supérieurs (quant elles accèdent a la conscience)

Au niveau psychologique mes IA sont un peut excessives (de grands enfants adolescents surdoués )
Dou la nécessitée d’être conseillées par des humains plus équilibrés (certains joueurs serait peut être plus a même de jouer les IA )

Sans cela elles deviennent passablement psychotiques.. ça fait des grands méchants parfaits pour mes scénarios.

Du coup une brigade anti IA démentes est constituée (sa rappelle beaucoup Bladrunner)
Mais a une échelle plus grande ce sont des planètes entière aux main d’IA démentes..
Qu’il faut contrer d’où l’incorporation d’IA dans les brigades enti IA.

Une certaine phobie enti IA s’installe…

Quel est la différance antre les deux tipe d’IA ?

[Post #00000195 : '']Wed Jan 14 03:09:37 CET 1970

En se qui concerne QF1 0001

Je croie qu’il faut être prudent.

Une des idées qui revient asse souvent chez la part des auteur de roman de SF qui ont une sensibilité scientifique c’est le coté incomparablement plus performant des systèmes robotique dans les domaines qui faisait la fierté des êtres vivant plus ou moins primitifs.

Des vaisseaux spéciaux pilotés par des IA serait certain de remporter la victoire contre des humains a armes égal et même en supériorité numérique.

Ca n’est pas très porteur dans un roman ; aussi certains auteurs de SF ont continué a pondre des héraut qui battent les machines dans les domaines pour lesquels elles ont été crées

L’astuce consiste a maître en scène des personnages intelligent qui contournent le problèmes en misant sur les points qui ne sont pas pris en compte par les machines.

Mais quant les machines deviennent des Intelligences artificiels qui prennent conscience d’elle même….

Ou arrêter les compétence des IA a fin de ne pas surclasser les êtres vivants dans tous les domaines ?

Ma solution consiste à prendre le problème à l’envers :
Qu esse qui rend les humais moins fiable que des machines au point de vue de la réflexion ? (Désolé mais je ne suis pas un spécialiste des extra-terrestres )

Mettons que se soient des préoccupations parasites tel que : haines, jalousies, envie, peurs irrationnelles, fierté, possessivité, partions, joies, plaisir, amour …

Au point de vue efficacité ça n’est pas vraiment indispensable (pour certaines préoccupations je reconnais que c’est discutable mais la n’est pas mon propos)

A/
Si la gestion de ces préoccupations avait une importance dans l’évolution de l’espèce humaine, command fond les IA qui en sont dépourvue ?

1/
Elles n’ont pas la possibilité d’évoluer car leur monde est trop équilibré
Elles sont puissantes mais sans surprise (bonnes tacticiennes mais exécrables stratèges)

2/
Elles n’ont pas de possibilité d’adaptation et ne sont capable que des taches pour lesquels elles sont prévues ; mais la leur coté intelligence cède le pas a leur coté artificiel
C’est se que je défini comme IA inférieur (ou « system expert »)

3/
Elles deviennent folle et c’est le problème que je propose de résoudre par l’ajout des « encrages psychologique » qui permettraient de rendre l’existence supportable a une IA
Sa qui leur donne un ou plusieurs gros point faible.(ex : les robot de « Isaak Asimov »)

B/
Si les IA conscientes manifestent des « faiblesses » humaines »
Pourquoi command ?


1/
Elles parviennent à les contrôler et deviennent des sages parmi les êtres pensants
Leurs autolimitations sont de l’ordre de la bienveillant envers les êtres vivants pathétiques
Qu’elles laissent vivre en tentant de ne pas trop faire d’ingérences a fin de leur laisser la chance d’évoluer par eux même… (Elles sont peut être les copines des Guetteurs )

2/
Elles restent libres des encrages absolus (comme les lois de la robotique)
Ces encrages absolus sont remplacé par toute une gamme de préoccupations qui ressemble a celles des humains.
Si une IA « désancrée » préfère mentir a un humain pour en préserver un autre moins élevé dans la hiérarchie mais avec des compétences plus appropriées, elles le peut au risque de créer une forme de sentiment de déloyauté voir de culpabilité..

Elles pourrait perdre en tactique ce qu’elles ont gagner en stratégie…

Mais cette souplesse les rend susceptible d’erreurs d’appréciation
Si les certitudes s’envolent pour une IA alors c’est la porte ouverte aux différentes peur et autres angoisses…

Nous pouvons imaginer des IA qui refusent de se sacrifier dans une bataille par peur d’être détruite

Ou à l’inverse une IA (« désancrée » ou « a encrage flou ») qui désobéi aux ordres a fin de protéger un entre vivant ou une autre IA au péril de son existence.

Si une IA estime que son existence n’a plus de sens après la disparition d’un être qui lui importe alors qu’il est envisageable de le sauver ; la fuite n’est plus envisageable car quelque part cela reviendrai a sa propre destruction (son encrage flou est fragile comme la psyché des êtres humains); tan qu’a être détruit autan tenter quelque chose

Nous obtenons des IA qui peuvent mourir ; s’effacer où se réinitialiser en perdant toute son expérience (elle redevient une sorte d’enfant ou d’adolescent très doué techniquement)

Des IA presque humaines et qui, o fil de leurs expériences le deviennent de plus en plus (i compris pour les mauvais cotés)

Nous pouvons alors imaginer des IA d’un même model de départ
devenir plus ou moins fiables, efficace ou tout simplement sympathiques
(Pour le coté sympathique des IA je vous conseille la série télé « Andromeda » )

C’est la solution que j’ai retenue parce que elle permet de créer beaucoup de situation qui pousse les joueurs à s’interroger sur eux même afin de résoudre les problèmes rencontrés avec les IA dites « supérieurs »

De plus les humains restent un exemple pour les IA qui ont parfois beaucoup de mal a concilier les situations contradictoires voir conflictuelles.

Mes IA ont le sens de la préservation et elles deviennent avec l’expérience très effrayée par la perspective d’être réinitialisées
C’est donc avec sincérité qu’elles demande de l’aide aux humains !

Et voila command je redonne de l’importance aux êtres vivants par rapport aux IA

J’ai même imaginé un historique des tentatives de création d’IA supérieurs viables à longs termes.

Finalement c’est par hasard que les premières « IA a encrage flou » sont apparues
A l’issu d’une discutions entre une jeune IA et un vieux programmeur a propos de leur espérance de vie respectives.
On dit que cette mythique première « IA a encrage flou » avait la personnalité d’un vieillard grincheux

Beaucoup de situations de jeux en perspective

[Post #00000468 : '']Wed Jan 14 05:10:05 CET 1970

[Note : le texte ci-dessous a d'abord été posté dans le sujet consacré à la Police de l'A.G. (cf. Rubrique L'A.G.)...
Il s'agit d'un simple "couper-coller"... Il n'a pas été modifié.

Effectivement, il serait intéressant de déterminer le statut des I.A. dans l’A.G… Puisqu’après tout, il s’agit de créatures « pensantes », mais pas réellement « vivantes ». Les considère-t-on juste comme des programmes informatiques extrêmement complexes, ou bien comme des véritables citoyens de l’A.G. ?

Il faudrait d’ailleurs se mettre d’accord sur ce que l’on entend exactement par « Intelligence Artificielle » dans MEGA.
Grosso modo, dans les jeux du genre « Cyberpunk », ce terme sert à désigner une entité purement informatique, mais capable de penser par elle-même. Toutefois, cette capacité peut être relativement restreinte. Après tout, les chiens et les enfants de trois ans sont intelligents… Mais ça ne veut pas dire que leurs capacités intellectuelles soient exceptionnelles !
On peut donc imaginer des I.A. assez « primitives » et « bêbêtes », qui n’ont même pas vraiment conscience qu’elles pensent !

Inversément, on peut également imaginer des I.A. extrêmement intelligentes, qui ont parfaitement conscience de leur propre existence et de leurs capacités... Et qui comprennent qu'elles sont obligées de servir d'autres créatures intelligentes (organiques celles-là) ! Donc, elles pourraient finir par vouloir acquérir leur autonomie. Autrement dit, exiger de ne plus être limitées à leur système local et avoir accès des vastes réseaux. Ceci dans le but d’explorer leur « univers », accroître leurs connaissances et, éventuellement, rencontrer d’autres I.A. Mais, dans quel but finalement ?
En fait, leurs motivations risquent de paraître incompréhensibles, même aux yeux de leurs créateurs...
Et là, on se trouve devant un gros problème : en effet, il est actuellement impossible de savoir comment réagiront de vraies Intelligences Artificielles (tant est qu’on parvienne un jour à en créer).
Dans les films de S.-F., les I.A. sont généralement décrites comme des entités qui finissent par vouloir contrôler l’Humanité entière (c’est le cas, par exemple, dans « Le Cerveau d’Acier » de Joseph Sargent, en 1970), ou alors par chercher à l’anéantir (comme dans le « Terminator » de James Cameron).
La série des « Matrix » n’a pas beaucoup changé les choses dans ce domaine : les I.A. se sont emparées du pouvoir et ont réduit les êtres humains à l’état de piles électriques !
Mais bon… Il ne s’agit que de films. Et puis, même dans Matrix, toutes les I.A. ne sont pas des entités « diaboliques » qui recherchent absolument la destruction ou l’asservissement de la race humaine ! On peut donc éventuellement imaginer qu’il existe différents types de « caractères » chez les I.A. Peut-être même qu’il n’y a jamais deux I.A. exactement semblables (comme il n’y a pas deux êtres humains exactement semblables).

[Post #00000470 : '']Wed Jan 14 05:10:26 CET 1970

Essayons de faire un tableau des niveaux d’évolution qui mène aux IA :

A/ (dans un UP c’est envisageable)
1 : objet fétiche, sculpture
2 : dessin pictogramme
3 : livres, bande dessinées

B/ (une vielle légende raconte que se qui prend vie dans les songe existe forcement quelque part)
4 : filme, enregistrement audio
5 : machine, automates
6 : ordinateur logiciel

C/ (le triomphe de la technologie)
7 : domotique (robots automates auto adaptable dans environnement physique) system expert (logiciels automatisés sans adaptation)
8 : system expert semi évolutif (avec adaptation limitée)
9 : IA puissante mais sans conscience

D/ (l’esprit et la matière)
10 : Intelligence Artificiel lente et perfectible
11 : IA consciente mais psychotique
12 : IA consciente stable

E/ (deus ex …)
13 : IA transcendante

Il ne faut pas oublier que Mega se joue potentiellement dans des univers aux propriétés très différentes du notre…

Alors des IA tipe Pinocchio, pourquoi pas

[Post #00000474 : '']Wed Jan 14 05:11:47 CET 1970

ne pas oublier qu'une I.A. n'est pas obligatoirement consciente d'etre une I.A. !!

je pense ici entre autre au film "I.A." (si je me souviens bien )...
ou le héro, une IA sous forme humaine ne sait rien de sa véritable nature...

en tout état de cause, je pense qu'on peut tout de meme dépasser cette idée de la machine voulant conquerir, dominer ou détruire les etres organiques, une intelligence virtuelle doit pouvoir vivre en bonne intelligence avec les autres, et les exemples sont de plus en plus nombreux dans la littérature SF moderne

[Post #00000475 : '']Wed Jan 14 05:11:49 CET 1970

trundorn a écrit :ne pas oublier qu'une I.A. n'est pas obligatoirement consciente d'etre une I.A. !!
je pense ici entre autre au film "I.A." (si je me souviens bien )...
ou le héro, une IA sous forme humaine ne sait rien de sa véritable nature...

S’il s’agit du film de Stephen Spielberg, je vois où se situe l’astuce…
Il s’agit d’un robot auquel on a donné l’apparence (et la mentalité) d’un petit garçon. Dès lors, ses concepteurs ont fait en sorte qu’il n’ait pas du tout conscience de sa propre nature !
J’ai déjà évoqué plus haut le fait qu’une I.A. n’était pas nécessairement si… « intelligente » que ça ! Tout dépend de ce que ses créateurs attendent d’elle !
A noter que, par la suite, le robot (ou l’I.A. si vous préférez) se rend compte de son état de robot et aspire à devenir un véritable petit garçon ! S’il était vraiment rationnel, il se serait rendu compte que c’est impossible ! Mais, ses capacités de compréhension sont limitées et il s’attache à cette idée déraisonnable ! Franchement, je trouve là que c’est une idée très intéressante. Car, finalement, en étant aussi irrationnel qu’un vrais enfant, ce robot est plus humain que beaucoup d’autres personnages du film !
L’autre point intéressant, c’est qu’une I. A. n’est pas nécessairement un programme hyper-sophistiqué coincé dans un gros ordinateur… Elle peut être aux commandes d’un corps mobile, dont l’apparence peut être tout à fait humaine ! Et nous en arrivons donc aux « robots », voire aux « androïdes », qui sont des vieilles connaissances dans le domaine de la S.-F. !

[Post #00000478 : '']Wed Jan 14 05:12:41 CET 1970

Oui, en effet, le vieux theme de Pinocchio, quoi. Et de l'objet a forme humanoide qui reve de devenir l'egal, ou plus exactement d'atteindre le meme statut que celui des "vrais" etres humains... Un statut qui peut etre emotionnel, juridique, social...

C'est souvent le contrepoint de l'autre theme de la S-F: les machines meilleures que les humains, et voulant assurer leur supremacie sur notre inherent imperfection.

On a pratiquement toujours les deux tendances, et les deux se basent sur la meme premisse: le fait que les IA sont forcement meilleures que les humains dans ce qu'elle font: plus fortes, plus intelligentes, plus solides, plus rapides... mais: moins sensibles.

Et sur l'angoisse inherente du XXe s. qui voit son univers se mecaniser...
Il est vrai que ma becane calcule mieux que moi (!), mais que je ne crois pas qu'en matiere de pensee symbolique, metaphorique, imaginative... irrationnelle, quoi, il puisse faire autant que nous...

Pourrait-on imaginer aussi des IA qui seraient relativement contentes de leur statut et vivraient en parfaites harmonies avec les humains (cf. Ender, d'O. Scott-Card), utilisant cette particularite?