ParticipantIl y a deux choses qu'on a fait, il y a l'enregistrement avec la retranscription en direct,
Participanton on a une difficulté pas sur la retranscription qu'on arrive à faire
Participanten automatique, mais on a une difficulté sur les l'IA
Participantdire que ce qu'on aimerait en termes de réactivité, c'est que quand on discute avec le client,
Participantavec
Participantle, c'est que quand le client pose une question ou que l'ingénieur dit quelque chose, l'IA puisse
Participantcorriger en disant attention ce que vous avez dit,
Participantle texte de loi exacte ou la mention que vous faites c'est ça ou alors quand un client dit quelque chose ça serait
Participantd'accord parce que en fait ça veut dire ça.
ParticipantOn l'a déjà eu fait, on sait que ça fonctionne mais par contre c'est le délai
Participantne nous correspond pas, c'est pas assez rapide. Oui, c'est difficile de toute façon ça c'est c'est
Participanthistoires de délais et puis aussi ça dépend parfois de facteurs que vous ne pourrez pas contrôler.
ParticipantEt ça, c'est vraiment touchy,
ParticipantPour ce genre de besoin en fait le mieux, c'est d'avoir un petit modèle
Participanttype open white, et caetera
ParticipantOù pour le coup il y aurait un scope restreint
Participantà dire voilà on ne peut pas non plus avoir un scope énorme
ParticipantSi vous voulez un scope énorme, il faut accepter le délai. Si vous voulez moins de délai, il faut
Participantun scope restreint des missions de ce petit accompagnement
Participantde ce petit agence d'accompagnement IA sur ensuite une infraste
Participantvoilà avec une location de serveur en plus scaleway ou autre
Participantsur lequel là vous pouvez mettre un peu plus d'argent pour s'assurer qu'il y a une rapidité
Participantdans l'exécution côté Supply.
ParticipantMais une villa de l'API, c'était vraiment très risqué, je pense.
ParticipantEt via des gros modèles, forcément il y aura des histoires de délais
Participanty compris en fait des facteurs que vous vous pourriez
Participantdu tout gérer, sur lequel vous n'avez aucun levier pour améliorer le délai
ParticipantC'était de la dynamique en fait, c'est que
Participanten plus on avait parlé de ça pomper des bases
Participantsont récentes
Participantpar exemple chaque année on prend les bases juridiques, les éditions Francis
ParticipantLefer ou les Memento,
Participantles met dedans
Participantdu coup ça fait notre base sur le serveur qui est restreint,
Participantet après on a juste un
Participanthonte avec justement à côté ces bases documentaires
Participantsont présentes et quand on dit quelque chose, vu qu'il analyse le texte dans le cadre de la transcription,
Participantet que c'est un modèle qui est fermé, il va tout de suite chercher dedans le texte de loi qui pourrait être renseigné.
ParticipantEt raisonnable pour vous, pour toi Luc pardon.
ParticipantDélai raisonnable c'est ouais une minute trente secondes.
ParticipantLe temps parce qu'on peut revenir quand je discute avec un client, ça peut être Pierre-Marie voilà
Participantvous pensez de ça et on passe à un autre sujet en fait juste je reviens au sujet d'avant,
Participantquand même qu'on rappelle le le texte de loi c'est ça et du coup ça m'amène à me poser
Participantquestion c'est celle-ci, c'est facile même de revenir après dessus.
ParticipantOk, là je me dis peut-être que ça peut valoir le coup d'aller chez Mistral
Participantleur tout dernier modèle là
Participantlarge trois fois cinq si je dis pas de connerie et plutôt pas mal
Participantmoi je l'ai testé un petit peu,
Participantd'après les benchmark annoncés par Mistral et puis ensuite vérifié par les communautés
Participantils ont réussi à atteindre des performances qui sont
Participanttrès similaires à Sony quatre point six.
ParticipantDonc pour ce genre de besoin, on serait largement suffisant et
Participantsurtout mistral, ils ont vraiment vu que cette approche
Participantsource intéressante et surtout
Participantont tout un outil de fine tuning qui est vraiment très accessible.
ParticipantOn n'a pas besoin d'être un gros data scientist pour faire son propre fine tuning.
ParticipantPour le coup c'est quelque chose qu'on peut envisager parce que le fin tunneling, Luc Suspace, tu sais ce que c'est,
ParticipantLe donc tu prends un modèle de LLM
Participanten fait tu vas venir ajouter ou geler des couches de connaissances.
ParticipantTu peux geler des couches de connaissances qui ne sont pas du tout pertinentes
Participantdans le cas de ton usage à toi, donc qui nous disent comment faire la recette
Participantd'un poulet au cul et on n'en a rien à foutre, donc on va jeter cette partie de la connaissance.
ParticipantEt à contrario, on va venir ajouter de la connaissance à partir de source
Participantque nous on a à notre disposition et on va venir les vectoriser à l'intérieur
Participantdu modèle et ensuite
Participantce modèle-là sera fine tuner et sera beaucoup plus adapté à un usage très spécifique.
ParticipantD'accord ok. Et on peut enrichir donc j'ai entendu qu'on pouvait ajouter donc qu'on peut enrichir
Participantavec les bases documentaires juridiques.
ParticipantExactement, c'est possible.
ParticipantCuré, voilà, d'une certaine manière.
ParticipantMais une fois qu'on les a dans le bon format, dans les boîtes
Participantdonnées, de manière légale puisque apparemment les frais sont un peu attisionnés sur ça.
ParticipantOui, c'est tout à fait possible.
ParticipantDu coup le délai
Participantle délai pour le coup, il serait beaucoup
Participantplus contrôlable et oui là je pense
Participantque le trente secondes d'une minute est complètement jouable.
ParticipantÀ tester parce que bon pour le coup je n'ai pas encore eu de cas d'usage comme ça
Participantavec ce modèle et cette infrastructure, mais
Participantmais je pense que ça peut se faire et au pire en fait ce fin tunneling là vous pourriez aussi le transmettre
Participantsur votre propre infrastructure. Si l'école a payé le sont trop lents ou qu'on remarque
Participantque des fois ce n'est pas très stable et que donc ça fait des délais qui dépassent
Participantce que l'on vous
Participantestimez comme être au-delà du raisonnable, comme c'est de l'open source,
Participantvous pouvez vous mettre transférer sur votre propre infra qui serait plus puissante et plus rapide. Alors,
Participantj'avais testé justement les appels d'API
Participantpour les
Participantmais en fait c'est trop long
Participanttrop long j'ai testé avec Cloud, j'ai testé avec plein avec plusieurs
Participantc'est, ça charge, après
Participantil faut que la transcription elle passe
Participantque ça interprète, que ça aille chercher l'article de loi, et caetera.
ParticipantPour l'instant,
Participantpart des modèles flash,
Participanton
Participantje ne vois pas ce qui peut répondre. Sauf que le problème, c'est que le modèle flash, ils disent, ils disent à Husine, ils disent de n'importe quoi.
ParticipantDonc j'ai pas trouvé
Participantje n'ai pas trouvé. C'est pour ça que je me dis que
Participantprobablement un modèle semi, un modèle moyen
Participantqui
Participantbien fine tuner,
Participantà dire où en fait on ne lui donne pas accès à un outil, c'est-à-dire voilà, il n'y a pas
Participantune histoire de raisonnement, il n'y a pas d'histoire d'aller chercher une information sur internet,
ParticipantIl est fin-twiné spécifiquement pour gérer
Participantde la réunion et accompagner un ingénieur pendant un call,
Participantet là ça peut permettre vraiment d'avoir simplement un seul tour
Participantet d'être réactif.
ParticipantOk.
ParticipantOui parce qu'en fait il faudrait qu'il y ait deux fonctionnalités, c'est source
Participantles articles de loi en fonction du contexte,
Participantles, enfin il y a deux autres options, ça serait attention à la fin de dire une connerie,
ParticipantPar exemple tu as dit que c'était trois ans d'emprisonnement, trois-cent-soixante-quinze-mille euros d'amende alors
Participantc'est un an d'emprisonnement et cinquante-mille euros d'amende. Donc attention à la fin de dire une connerie,
Participantet après c'est
Participantregard du contexte que tu es en train d'évoquer avec le client, je te recommande de poser telle question pour telle raison.
ParticipantDonc si ça on arrive à le faire, encore une fois moi je suis un rêveur,
Participantdonc je donne le le le l'idéal après c'est dire ça la oui ça non.
ParticipantIl faudrait que je me renseigne un peu plus,
Participantfaudrait aussi ouais qu'en fait tu fasses ta liste de courses de rêveur et que
Participantte dire ce qui est possible ou pas possible en termes de fin tuning, ce que le fin tuning
Participantmais ça peut quand même vite devenir une certaine usine à gaz, ça dépend le niveau de complexité
ParticipantD'accord ok, ça me semble assez simple donc ça devrait aller.
ParticipantMais ok. Donc ça c'est ce qui a été fait
Participantdéjà sur
Participantsur la partie visio.
ParticipantTu peux le voir, ce n'est pas tout à fait abouti, mais on a, on a
Participanttrès content de vous