Ciourte PiailleJe découvre que l'IA, c'est comme la 5G, il y a des gens qui sont contre pour des bonnes raisons : on en a pas besoin, il n'y a pas assez de réflexion dessus et chaque génération va de nouveau créer de la pollution… et il y a des théories complètement à l'ouest qui risquent d'être utilisées pour les décrédibiliser. La 5G était censé filer le cancer ou contrôler les gens avec le vaccin anti-covid ; pour l'IA c'est la croyance de l'imminence de l'émergence d'une IA forte, alors que ça n'a rien à voir avec ce que tout le monde appelle IA actuellement et qu'on ne va pas passer de l'un à l'autre en faisant plus de ce qu'on fait actuellement.
bélître@ciourte je ne connais pas assez le sujet mais ça me parait très tranché comme avis. Il y a une notion de risque vs probabilité. Si quelque chose à moins de 1 chance sur un million d'arriver mais peut signifier des bouleversements énormes, c'est un aussi un risque énorme.
Ensuite il devient de plus en plus difficile de faire des tests qui distingue les réponses d'une IA d'un humain. On peut considérer qu'elles ne font que "faire comme", mais à un moment le moyen de le plus efficace de faire
Ensuite il devient de plus en plus difficile de faire des tests qui distingue les réponses d'une IA d'un humain. On peut considérer qu'elles ne font que "faire comme", mais à un moment le moyen de le plus efficace de faire
@ciourte comme un humain n'est il pas d'avoir un système de réflexion proche de celui d'un humain (voir supérieur).
Ensuite il y a la question du moment où une IA devient capable de s'améliorer elle même. Si on considère que c'est possible, c'est à ce moment là que ça devient potentiellement exponentiel.
Ensuite il y a la question du moment où une IA devient capable de s'améliorer elle même. Si on considère que c'est possible, c'est à ce moment là que ça devient potentiellement exponentiel.
@ciourte Donc est-ce que ça va arriver prochainement, je n'en sais rien.
Mais rapprocher les gens qui prennent au sérieux cette hypothèse de ceux qui pense que les vaccins anti-covid allait controller les gens ne me parait pas très pertinent.
Mais rapprocher les gens qui prennent au sérieux cette hypothèse de ceux qui pense que les vaccins anti-covid allait controller les gens ne me parait pas très pertinent.
@ciourte Et qui aurait parier il y a 10 ans qu'on aurait des ia qui font ce qu'elles font aujourd'hui. Est-ce que prendre des mesures maintenant pour éviter qu'il arrive potentiellement quelque chose dans 10 ans est si déraisonnable.
Parce que c'est un sujet où on pourra difficilement réagir après. Et puis les réponses à ce problème notamment en terme d'alignement sont peut être déjà aussi pertinente pour les IA d'aujourd'hui omniprésentes et influentes.
Parce que c'est un sujet où on pourra difficilement réagir après. Et puis les réponses à ce problème notamment en terme d'alignement sont peut être déjà aussi pertinente pour les IA d'aujourd'hui omniprésentes et influentes.
@bellitre
Si après avoir inventé le moteur a explosion, on fabrique des voitures au moteur de plus en plus puissant, alimentées de carburant produisant de plus en plus d'énergie, elles vont décoller de plus en plus haut au moindre relief, mais ça n'est pas de cette manière qu'on arrivera à une fusée. Il est possible qu'une fusée soit fabriquée à un moment, mais ça demande d'autres techniques, pas seulement un moteur encore un peu plus gros et encore un peu plus de carburant.
@ciourte Les entreprises qui font de l'IA ne travaillent pas que sur un seul modèle. Et même si c'était le cas, l'émergence est un truc assez imprésible, nous en sommes un bon exemple.
Contrairement à une voiture, les modèles d'ia sont consus pour apprendre par eux même et ils arrivent à s'approprier des concepts abstraits et à faire des raisonnements logiques non programmés.
Est-ce que pour vous la probabilité d"une ia forte est de moins de 10-9 dans les 10 ans ?
Contrairement à une voiture, les modèles d'ia sont consus pour apprendre par eux même et ils arrivent à s'approprier des concepts abstraits et à faire des raisonnements logiques non programmés.
Est-ce que pour vous la probabilité d"une ia forte est de moins de 10-9 dans les 10 ans ?
@ciourte Et quel moment sera le plus pertinent pour encadrer la chose ? Une fois qu'une IA forte aura déjà été créée ?
@ciourte (Note, je suis parti du principe que vous considérez comme moi que la vie et donc l'être humain et donc la conscience sont apparues par hasard, sans qu'il n'y ait même de volonté de créer quoique ce soit. Mais peut être n'est ce pas votre point de vue et c'est là une source de nos visions différentes ?)
@ciourte (Et ce qu'on fait en ce moment c'est investir des centaines de milliards dans une sélection non naturelles d'ia où on teste pleins de possibiltés avec des puissances de calcul gigantesque et où on garde les meilleurs)