Săptămâna asta, Microsoft a prezentat Dragon Copilot, o soluție de inteligență artificială care ar trebui să mai reducă încărcarea cu sarcini administrative a medicilor.
AI-ul are la bază tehnologii de comenzi vocale și ascultare ambientală în mai multe limbi create de Nuance. Microsoft a cumpărat Nuance, cu tot cu tehnologia dezvoltată, în 2021.
Soluția de inteligență artificială a companiei ar trebui folosită pentru compunerea însemnărilor medicale necesare în urma vizitelor clinice, gen scrisorile de recomandare.
Aceste operațiuni ar deveni semi automatizate, necesitând mai puțin timp, ceea ce ar permite medicilor să se concentreze mai bine pentru tratarea pacienților.
Trebuie să recunosc că sună bine, chiar înălțător și m-aș entuziasma măcar un pic dacă n-aș ști că vine din partea unei companii capabile să calce orice în picioare pentru profit, inclusiv să-l susțină pe Trump.
Plus de asta, e ca și cum am uitat că AI-ul generativ de azi suferă de o maladie gravă, numită de specialiști halucinații – pur și simplu inventează informații.
o3-mini, un așa-zis model mic făcut de OpenAI, are o rată a halucinațiilor de 80%. Asta înseamnă că bate câmpii în 8 din 10 cazuri, ceea ce este enorm.
Un alt studiu, făcut anul trecut de Journal of Medical Internet Research, scrie în concluzii că nu recomandă ca LLM-uri să fie folosite ca „instrument principal sau exclusiv pentru efectuarea evaluărilor sistematice”.
Și, cu toate astea, companiile de tehnologie împing AI-ul în față inclusiv în domenii unde riscurile sunt mari. Și fac asta știind că Trump a renunțat la verificările impuse de democrați, pentru „a încuraja dezvoltarea AI-ului”.
Mie unul, riscul de a lua Nitroglicerină în loc de Ibuprofen nu mi se pare acceptabil.