Ce fac, mai exact, evaluatorii umani
Potrivit documentelor descrise în articol, evaluatorul primește un prompt real introdus de un utilizator și trebuie să înțeleagă intenția acestuia. Ulterior, analizează mai multe răspunsuri generate pentru aceeași solicitare și notează cât de bine răspund acestea cerințelor.
Evaluarea nu se limitează la corectitudinea informațiilor. Sunt analizate și aspecte precum tonul, naturalețea conversației și modul în care modelul interacționează cu utilizatorul. De exemplu, răspunsurile pot fi depunctate dacă folosesc excesiv emoji-uri sau încearcă să imite prea intens stilul persoanei care pune întrebarea.
În materialele prezentate de Playtech, răspunsurile sunt evaluate pe o scară de la 1 la 7, unde scorurile mai mici indică răspunsuri considerate necorespunzătoare, iar 7 este asociat unui răspuns dificil de îmbunătățit semnificativ.
Ce se întâmplă cu informațiile personale
OpenAI susține că, înainte ca aceste conversații să ajungă la contractori, ele sunt procesate printr-un sistem numit Privacy Filter, conceput pentru identificarea și eliminarea informațiilor personale.
Totuși, compania recunoaște că un astfel de sistem poate face greșeli, inclusiv atunci când este vorba despre identificatori mai puțin obișnuiți sau despre referințe private care sunt dificil de interpretat automat.
Potrivit informațiilor prezentate de Playtech, evaluatorii nu văd numele de utilizator al persoanei care a purtat conversația. Cu toate acestea, materialele analizate pot conține informații personale. În anumite situații, evaluatorii pot primi și un rezumat al memoriilor asociate utilizatorului, care oferă context despre interacțiunile anterioare cu chatbotul.
Ce se întâmplă dacă dezactivezi folosirea conversațiilor pentru îmbunătățirea modelelor
OpenAI a declarat pentru 404 Media că utilizatorii care dezactivează opțiunea „Improve the model for everyone” nu au conversațiile noi folosite pentru antrenarea și îmbunătățirea modelelor.
Potrivit articolului, pentru conturile Free, Plus și Pro, această opțiune este activată implicit și trebuie dezactivată manual de utilizatorii care nu doresc ca noile conversații să fie folosite în acest scop. Pentru clienții Enterprise, Business și Edu, setarea este dezactivată implicit.
Un aspect important este că dezactivarea setării nu este prezentată ca având efect retroactiv asupra conversațiilor care au fost deja colectate. De asemenea, ștergerea unei conversații duce, potrivit informațiilor citate de Playtech, la eliminarea acesteia din sisteme în termen de 30 de zile, cu anumite excepții, inclusiv în situațiile în care datele au fost deja de-identificate și separate de cont.
Nu doar OpenAI folosește evaluatori umani
Practicile de acest tip nu sunt specifice exclusiv ChatGPT. Materialul menționează că și alte companii din domeniul inteligenței artificiale folosesc evaluarea umană pentru îmbunătățirea modelelor.
Anthropic, compania din spatele Claude, a confirmat utilizarea verificării umane în anumite condiții, iar Google menționează în informațiile despre Gemini că unele conversații salvate pot fi analizate de oameni pentru îmbunătățirea serviciilor AI.
Ce înseamnă asta pentru utilizatorii ChatGPT
Faptul că anumite conversații pot fi evaluate de oameni arată că interacțiunea cu un chatbot nu trebuie tratată automat ca o discuție care rămâne exclusiv între utilizator și un sistem automat.
Setările de confidențialitate contează, iar utilizatorii pot verifica opțiunile disponibile pentru folosirea conversațiilor în scopul îmbunătățirii modelelor. În același timp, este prudent să nu introduci într-un chatbot informații pe care nu ai dori să ajungă, în anumite circumstanțe, în cadrul unui proces de evaluare umană.