Ouais voilà on voit souvent du postman mais ca va rarement plus loin.

Ton second exemple est le bon.
En gros comment mon sous domaine de la boîte devient un sous produit a part entière, facilement utilisable (avec secu etc ofc) par les tech ou non tech.

Et pariel hors de la tech, j'avais fait un talk il y a 1 ou 2 ans où je parlais d'expertise as a service, et j'ai l'impression que côté infra/sre/... ca prend (platform eng etc) mais ailleurs, notamment côté dev produit, moins.

Mon point c'est qu'on a des orgas avec des équipes de dev par domaine metier et je vois peu la "platformisarion" de ces équipes en terme de self-service/tooling interne/api/ui... sur leurs domaines, a destination des tech ou des non tech (product, support etc).

Openai a quelques articles sur le sujet comme developers.openai.com/apps-sdk/con...
Après on peut aussi faire du llm en background et montrer le résultat digéré dans une interface classique je pense.
Mais tout le monde (moi inclus) découvre donc le mieux c'est d'expérimenter imo.

Je pense qu'il y a moyen de repenser pas mal de produits et l'interaction homme/machine via du langage naturel (mais pas que).
Mais c'est tout neuf donc il n'y a pas de recette magique, les patterns sont mal connus donc je trouve ça super intéressant à explorer.

C'est ça le fun de l'AI imo. Ca peut amener de nouvelles manières de faire des produits/de l'ux mais il y a un risque d'échec.
C'est pour ça que j'ai choisi d'aller bosser sur le sujet 😅

Pareil, et faut vraiment voir l'état comme un moyen d'avoir du financement mais pas comme une fin en soi (en gros "on va survivre via un monopole étatique", ce que certains cloud visent) sinon c'est game over.

De la commande publique c'est bien pour les aider mais si ils sont à la traine (comme nos cloud providers FR qui ont bcp de retard), ils auront qu'une petite part du gâteau IMO et ce sera pas suffisant pour construire un champion.

Et tous les outils de code type cursor/claude code... sont très utilisés pour le coup et utilisent les modèles US.

Je suis d'accord que Mistral a une carte à jouer sur les services publics mais c'est pas suffisant, c'est un petit marché et on voit avec le cloud que ça marche pas.

Bon je suis un peu dans ma bulle c'est vrai, beaucoup de boîtes commencent juste mais j'ai l'impression que la majorité utilisent les modeles les plus connus (anthropic/openai/Google en gros), en direct ou via cloud providers, ou via dust.tt par exemple.

Et je pense que dans les années à venir les boîtes vont vraiment structurer leurs manières de tester les modèles pour leurs use cases (evals etc) et donc tous les modèles seront passés à la moulinette, et c'est pas forcément le modèle le + puissant qui gagne (ratio cout/latence/perf...).

Elles sont déjà très bien implantées car bcp de boîtes utilisent leurs modèles (en direct ou via leurs cloud providers, comme bedrock/aws pour anthropic) pour énormément de besoins.

Faut voir comment Mistral se positionne, car ils sortent aussi bcp de trucs non liés aux modèles on dirait.

Et un grand merci à @mcorbin.bsky.social pour ses précieux conseils et son talk sur Karpenter, que je vous recommande vivement : www.youtube.com/watch?v=QO79...

La prochaine étape c'est full otel côté client pour avoir client+serveur sur la meme trace mais je ferai un retour quand/si ça se met en place (et iirc le sdk js front est pas totalemeng sec).

Ensuite le reste avec des thresholds élevés ça peut aussi détecter des problèmes globaux notamment sur une augmentation forte après une release.
Si on passe de 20% (baseline) a 90 % d'erreurs chelous (style timeout/reseau) apres une release c'est généralement qu'un truc a sauté 😅

Mais oui il y a tjr une grosse part d'erreurs dans les req ce qui complexifie l'alerting par exemple.
Mais rien que de focus sur les erreurs serveur avec dans l'évent le contexte utilisateur (org/user id etc), ou events du type crash de l'app front/mobile c'est pas mal.

Wide events et ensuite filtrer par attribut(c'est ce que je testais il y a quelques mois).
Si il y a des attributs sur l'event sur la raison du plantage (5XX ou 4XX reçue, pb reseau/timeout...) ca permet déjà de filtrer les "vrais" erreurs du reste où on sait pas trop.