Bref, les hallucinations sont inévitable et en plus sont amplifié par comment les IA sont faites : récompensées dès qu'elles réussissent à répondre. Non seulement c'est le modèle mathématique qui pose soucis, mais les méthodes d'évaluations empire ça, n'entrainant pas les IA à être "prudente" ce qui mitigerait un peu.

Et c'est logique, les IA sont vendus comme étant le truc magique qui peut répondre à tout, tout faire. Renvoyer une réponse qui ressemble à une réponse vrai est bien plus intéressant commercialement que de renvoyer un "désolé je ne sais pas", parce que c'est frustrant pour les utilisateur⋅ices et cela diminue leur argument de vente qui est la magie de l'IA qui va tous⋅tes nous remplacer.

De plus, la pensée techbro étant à fond dans le go fast and break things, ça amplifie ça.

Bref les hallucinations sont :

• Un effet inévitable des modèles mathématiques
• Amplifié par un modèle techbros qui répond à tout prix
• Amplifié par le modèle même de ce qui est venu dans l'IA, cet oracle qui répond à tout.

Visiblement la présentation des lunettes de Meta a été pleine de gros fails.

C'est pas étonnant, la "super high tech" que vendent les entreprises est en grande partie un mythe, une esthétique. Le besoin d'avoir le nouvel internet, la nouvelle révolution technologique les poussent à mentir sur le truc, puis quand le produit arrive vraiment, c'est bien moins que ce qu'ils disaient.

• Le métavers nous était présenté comme tout les mondes virtuels de SF, on s'est retrouvé avec des mondes 3D foireux mal fagoté qui font au final moins bien que juste discuter et jouer à des jeux avec ses potes via Discord ou autre.
• Les cryptomonnaies étaient présenté comme la monnaie du futur, décentralisée, sans banque et ont été des outils de spéculations lent, dépensant des ressources énergétique monstre pour des frais de fonctionnement abusés.
• L'IA nous est présenté comme cette intelligence incroyable, toujours à quelques mois de l'arrivée de "l'AGI" pour au final générer constamment de la merde peu inspirée, ou s'effondrer dès qu'une question est un peu trop compliquée et stagner de dingue ces derniers mois (et dépensant des ressources monstre aussi)

Ils ont besoin de vendre le futur, mais le futur est souvent décevant. Pourquoi l'iPhone a été une révolution, pourquoi internet ont été une révolution ? Parce qu'au final, ils avaient une offre simple : internet connectait le monde entier, l'iPhone misait sur son design pour être un produit intelligent.

Et pour chaque révolution, il y a eut des dizaines de "moi j'ai la nouvelle révolution".

Bon, je pense que je fais bien de réfléchir à quitter Firefox moi… De plus en plus de truc titré IA dans Firefox, ça devient vraiment de pire en pire.

1,5 milliard a payer pour Anthropic pour tout les livres qu'ils ont piraté. Ce n'est qu'un settlement, je sais pas si ça fait un précédant judiciaire, mais visiblement ça fera au moins un précédant pour mettre l'idée qu'il faut payer - et payer des grosses sommes pour ce piratage massif.

J'espère que ça va faire peur et affecter Meta et les autres entreprises du genre, et que d'autres settlement du genre vont continuer à se produire.

Les tiret long sont un exemple, mais en fait pour moi y'a un soucis plus large : dans la recherche des éléments produits par IA, on a parfois tendance à prendre dans le lot tout ce qui nous semble "étrange" où alors trop formel.

J'ai vu des tas d'accusations d'IA infondées, et c'est peut-être un des gros soucis que produit l'IA justement : non seulement ne pas nous faire voir quand des choses sont fausses, mais aussi quand elles sont vrai.

J'aime beaucoup l'idée d'avoir dans un tableur quelque chose à ne pas utiliser dans les tâches ayant des enjeux ou nécessitant des calculs corrects rofl

Un article très intéressant de Ed Zitron sur le fait que l'IA a un cout financier énorme, pour très très peu de revenu, et que visiblement personne n'a vraiment envie d'être "celui qui paie" à long terme.

L'article a été résumé par @UnePorte@elderitch.cafe ici : https://eldritch.cafe/@UnePorte/114986962031526715

Donc Reddit va se faire inonder de spam IA. C'est l'IA de Google qui va pas être contente

J'espère qu'ils vont se faire défoncer sur ça.

Ils perdent de l'argent sur TOUT leurs plans. C'est pas surprenant, mais ça fait se poser des questions. D'habitude, l'enshittification consiste a augmenter ses parts de marcher jusqu'à pouvoir devenir rentable en montant les prix, foutant de la pub, etc… mais si en moyenne payer 200€ pour ChatGPT à son niveau le plus élevé ne permet pas de rendre rentable, et qu'on sait que les nouveaux modèles coutent encore plus cher ? Les gens ne paieront pas 200€ sur les modèles actuellement les moins cher, et bien des gens de toute façon ne paieront pas pour ça. Même les modèles à 20€ on sait qu'ils ne sont pas rentable s'ils sont beaucoup utilisé.

Je ne vois pas comment ça deviendra rentable un jour, on cramme la planète pour une chimère.

Mais quel enfer. Déjà que le système des influenceurs rend ce genre de plateforme néfaste, maintenant des petits influenceurs virtuels générés par IA qui servent uniquement à satisfaire les utilisateurices (et à placer le plus de produit possible).

Parfois un peu envie de (les faire) caner

Plus d'argent, toujours plus d'argent. Les IA sont des grosses machines à bouffer du fric et de l'énergie.

Et tout est toujours pour demain.

Toujours bon a avoir sous la main pour bloquer les bots IA de crawl les sites

L'auto-canibalisme des IA continue, et cause des soucis

Des cartes expliquant les nombreux soucis autour de l'IA Générative

C'est une EXTRÈMEMENT MAUVAISE IDÉE. Créer une imitation par IA d'une personne décédée ne la fera pas revenir. Ce serait déjà le cas si l'IA était capable de véritablement "penser" (puisque ce seriat alors un⋅e autre individu⋅e), mais c'est encore plus vrai dans le cas des IA non sentientes !

Cela risque d'avoir des effets très néfastes sur le deuil si ça s'étend.

Une critique intéressante du business d'OpenAI et de pourquoi il n'est pas profitable et viable sous sa forme actuelle, notamment comparé à la quantité énorme d'argent (et d'énergie) qu'il englouti. L'article d'ailleurs ne parle pas que des soucis lié à la situation spécifique d'OpenAI, mais du fait que derrière s'en profile un autre, celui de l'IA générative en général.

Je me demande vraiment comment et quand ce système va s'effondrer, parce qu'en fait j'ai du mal à voir la situation s'arranger.

Ah bah tiens. En vrai je suis pas surpris, cette feature est un peu un de leur moyen de tenter d'indiquer à quel point l'IA est "essentielle".

Les fakes IA sont massivement utilisé sur facebook pour tromper et manipuler