Lightnews — Scholar-powered news

Antoine C.

@ancadweb.com

540 followers 300 following 6.6K posts

(fr/en) IA, réseaux sociaux, politiques des géants de la tech & US, etc. sous un angle plutôt critique. Nonobstant ma grande intelligence et extrême pertinence (et modestie) il est à noter que je ne suis nullement un expert des sujets évoqués. 😎

Posts Media Videos Starter Packs

Pinned

Antoine C. @ancadweb.com · Feb 22

Un petit répertoire de mes threads & listes :

🇺🇲😱 bsky.app/profile/anca... : "The Real Storm" un scénario catastrophe où les US vireraient *vraiment* fasciste

🇺🇲🤑 bsky.app/profile/anca... : sur les projets de l'administration Trump en matière de cryptos

(...)

Antoine C. @ancadweb.com · Feb 20

The real Storm (1/beaucoup). Un thread de politique fiction sur un vrai virage fasciste US rédigé pour l'essentiel avant l'investiture de Trump et que je comptais poster ce jour là, mais me suis retenu en mode je vais peut être essayer d'éviter de passer pour un dingue. theonion.com/take-the-can...

Take The Cannoli

theonion.com

2 4 11

Antoine C. @ancadweb.com · 2h

Il faut en garder de coté pour les remaniements.

Antoine C. @ancadweb.com · 14h

☠️🤖 bsky.app/profile/anca... : sur l'extinctivisme
🌐🤖 bsky.app/profile/anca... : sur Youtube qui propose des outils IA
🤖🥇 bsky.app/profile/anca... : sur le Time 100 of AI
🤖⚒️🇺🇸 bsky.app/profile/anca... : sur le rapport Sanders (IA et automatisation)

Antoine C. @ancadweb.com · 3d

1/ Un sujet qui va sans doute devenir à la mode (s'il n'arrive pas assez vite à ses fins 😱), l'extinctionisme (ou extinctivisme selon les traductions).

futurism.com/artificial-i...

Top AI Industry Figures Secretly Hoping AI Will Wipe Out Humankind

According to proponents, humanity should create AI lifeforms at all cost — and so be it if they surpass and eliminate us.

futurism.com

Antoine C. @ancadweb.com · 17h

fin/ Pour en revenir à ceux qui ne supportent pas Hinton, je crois que je les comprend mieux après réflexion, le problème n'est pas qu'il raconte souvent n'importe quoi, plutôt qu'étant généralement intéressant et raisonnable il en arrive d'autant mieux à faire passer des idées qui le sont moins.

Antoine C. @ancadweb.com · 17h

45/ Si cette dernière image semble totalement séduire Jon Stewart, dont la conscience semble éveillée par cette démonstration comme s'il venait d'en prendre lui même, et qui conclut par une nouvelle séance de remerciements et flatteries sur la fin.

Antoine C. @ancadweb.com · 17h

44/ Donc même si l'agilité de son raisonnement peut être saluée (arrivant à faire de l'indéniable capacité des IAs à se tromper une preuve de leur conscience, et utilisant l'expérience d'un cerveau humain sous LSD comme image) je n'irais pas jusqu'à dire qu'il est très convainquant.

Antoine C. @ancadweb.com · 17h

43/ Mais euh... D'une les IAs n'ont pas vraiment de perception autre que ce qu'on choisit de leur raconter/montrer, de deux ça ne démontre que le fait qu'elles ne sont pas objectives, et de trois toute pensée subjective qu'elles semblent avoir a toutes les chances de découler de notre imitation.

Antoine C. @ancadweb.com · 17h

42/ A savoir sa conviction que les IAs seraient d'ores et déjà capables de pensée subjective, ce qu'il argumente par le fait qu'elles peuvent comme nous être trompées par leur perception des choses et se créer à partir d'elle une représentation fausse du monde.

Antoine C. @ancadweb.com · 17h

41/ Sur la fin de l'interview il revient sur le sujet de la conscience (ou plutôt sentience, partant de "most people don't know what they mean by sentient"), rappelant ce qui le sépare du commun des mortels (y compris les chercheurs les plus proches de ses positions comme Yoshua Bengio).

Illusions of AI consciousness

The belief that AI is conscious is not without risk

shorturl.at

Antoine C. @ancadweb.com · 17h

40/ Ce n'est que parce que DeepMind accusait un certain retard (comme on put le constater quand son LLM fut finalement diffusé sous le nom de Bard début 2023 et s'avéra plutôt décevant) qu'il peut présenter OpenAI comme le moteur de l'évolution "irresponsable" du secteur.)

Antoine C. @ancadweb.com · 17h

39/ Quant à la diffusion de chatGPT3.5, elle a eu lieu 2 mois après que DeepMind annonce la sortie d'un LLM appelé Sparrow qui s'annonçait comme un sérieux compétiteur, ce qui a probablement poussé OpenAI a vouloir les prendre de vitesse.

Antoine C. @ancadweb.com · 17h

38/ * (trucs qu'il ne mentionne pas : viser l'AGI aussi vite que possible était tout à fait assumé par DeepMind dès avant la création d'OpenAI, qui la justifiait d'ailleurs par "ne pas laisser son développement à un groupe à but lucratif comme Google".

Antoine C. @ancadweb.com · 17h

37/ Ne mentionnant pas qu'il y avait maints signes de la fin du "don't do evil" avant celle ci (voir éviction de Timnit Gebru par exemple), et que Google pourrait aussi être vu comme ayant provoqué la course à l'AGI et la diffusion aussi rapide que possible de LLMs au grand public*.

Antoine C. @ancadweb.com · 17h

36/ Il continue ceci dit à défendre le Google d'avant l'ère ChatGPT, allant jusqu'à déformer un brin l'histoire pour en faire un exemple de gestion responsable de l'IA, faisant de sa mauvaise évolution ultérieure la conséquence de tendances initiées par OpenAI.

Antoine C. @ancadweb.com · 17h

35/ Sur toute la partie politique il est en osmose avec Jon Stewart, et bien moins éloigné des gens qui le critiquent le plus que des broligarques, ou même de la moyenne des doomers largement contaminés par la Californian Ideology.

Antoine C. @ancadweb.com · 17h

34/ Et croit en une collaboration internationale (uniquement pour réduire les risques les plus graves, pas sur les recettes pour rendre l'IA plus intelligente) tout en voyant le régime Trumpiste comme le principal obstacle à ça ; il critique aussi sa politique anti-science etc.

Antoine C. @ancadweb.com · 17h

33/ Il se montre optimiste pour la Chine qui serait plus consciente des risques que les US (au moins de perte de contrôle, si c'est moins le cas pour celui d'usage malveillant par une puissance autoritaire qu'il met à égalité) et approuve les efforts européens de régulation.

Antoine C. @ancadweb.com · 17h

32/ Ajoutant que le problème essentiel pour y parvenir est celui des conflits d'intérêt des sociétés et pouvoirs politiques qui en ont la charge. "what we need is strong democrating governments cooperating to insure this stuff is well regulated".

Antoine C. @ancadweb.com · 17h

31/ Il ne croit pas en une pause de l'IA, voyant la position dominante des décideurs comme "the possibility of good are so great that we won't stop developpement" et en concluant "it is going to be developped but we have to do it safely".

Antoine C. @ancadweb.com · 17h

30/ On peut regretter qu'il évoque moins les sociétaux (découlant des biais des IAs etc.) mais c'est spécifique à cette interview, dans ses conférences universitaires c'est typiquement une partie sur 5 ou 6 (à égalité avec la partie "risques existentiels"), pas un sujet qu'il néglige.

Antoine C. @ancadweb.com · 17h

29/ Hinton évoque aussi les risques sociaux, surtout celui d'un choc pour l'emploi (sujet où il est assez critiquable, voyant l'IA rendre rapidement obsolètes des métiers entiers, mais pour une fois il ne sort pas son célèbre "devenez plombier", c'est déjà ça).
bsky.app/profile/anca...

Antoine C. @ancadweb.com · 1d

Des imprévisibles effets de l'IAGen sur le travail...
(random exemple d'article fumeux là dessus pour décorer)
www.nexford.edu/insights/how...
/21

How will Artificial Intelligence Affect Jobs 2025-2030 | Nexford University

You would have been living under a rock if you did not know how artificial intelligence is set to affect jobs in 2025-2030. AI like ChatGPT seems to be stealing all of the headlines at the moment, Goo...

www.nexford.edu

Antoine C. @ancadweb.com · 17h

28/ Mais il n'y a rien qui démontre hors de ce cas précis que les IA cherchent à cacher leurs capacités (si, bon, si on imagine une IA capable de raisonner et visant l'auto-préservation, il se pourrait qu'elle déduise que c'est la marche à suivre en lisant tous les travaux qui s'en inquiètent 😈).

Antoine C. @ancadweb.com · 17h

27/ Il me semble un peu déformer ce que disent les études sur le sujet quand il parle "d'IAs qui se comportent plus stupidement quand on les teste". Quand le test consiste à leur faire savoir qu'elles seront désactivées si elles se montrent trop intelligentes, oui...

Antoine C. @ancadweb.com · 17h

26/ L'inquiète avant tout notre difficulté à détecter à temps des IAs mésalignées ou qui deviendraient plus intelligentes qu'on le veut du fait de leur capacité à identifier les moments où on cherche à les tester et changer leur comportement en fonction.

www.zdnet.com/article/ai-m...

AI models know when they're being tested - and change their behavior, research shows

OpenAI and Apollo Research tried to stop models from lying - and discovered something else altogether.

www.zdnet.com

Antoine C. @ancadweb.com · 17h

25/ Puis après un passage également classique sur les risques d'aide à la création d'armes biologiques ou autres, à celui d'IA plus intelligentes que nous poursuivant leurs propres objectifs, sujet sur lequel il reconnait d'emblée que ses convictions viennent avant tout de "gut feelings".

Antoine C. @ancadweb.com · 17h

24/ Sur laquelle Hinton ne dit rien de vraiment nouveau ou surprenant, insistant sur les capacités de persuasion et profilage des IAs, évoquant Cambridge Analytica, etc. Avec pas mal de piques aux MAGAs au passage tant de lui que de Jon Stewart.