Microsoft a numit scraping-ul AI „cel mai mare furt de muncă din istorie” în propriile documente

Un om de știință de la Microsoft a pus un nume pe ceea ce construia compania, iar numele nu era deloc măgulitor. Analizând modul în care modelele lingvistice de mari dimensiuni învață din mediul web deschis, el a numit fenomenul „cea mai mare furt de muncă din istoria omenirii”. Fraza fusese scrisă pentru uz intern. Acum este o piesă de expunere în instanță.

Expresia lovește acum ca un „gotcha”: propriul angajat al gigantului AI numind modelul de afaceri „furt”. O lectură atât de îngustă e insuficientă. Ceea ce arată de fapt documentele desecretizate este o companie care a înțeles mecanismul pe care îl monetiza, a descris acel mecanism într-un limbaj direct și, cu toate acestea, a livrat produsul. Partea interesantă nu este insulta. Este diagrama din spatele ei.

Documentul îi aparține lui Brent Hecht, director de știință aplicată la Microsoft, și a ieșit la iveală în procesul de copyright pe care The New York Times l-a intentat împotriva OpenAI și Microsoft. Hecht a susținut că antrenarea modelelor pe lucrări publicate, fără nicio plată, echivalează cu „un furt uluitor, de proporții fără precedent”. O altă prezentare internă a mers mai departe în mecanism: avertiza că strategia de conținut AI a Microsoft a declanșat o „buclă a condamnării” care va „afecta performanța modelelor noastre și, în același timp, a întregului web”. Modelele lingvistice de mari dimensiuni, spune un rând, sunt „un produs care își distruge propria aprovizionare”.

Lecturi recomandateMeta lansează IA gratuită și acuză OpenAI că concentrează puterea

Ultima frază este întreaga poveste în șapte cuvinte. Un chatbot care răspunde la o întrebare direct în caseta de căutare elimină motivul pentru care utilizatorul ar da click pe pagina de unde a învățat. Mai puține click-uri înseamnă mai puține venituri pentru site-urile care produc conținutul scris, ceea ce înseamnă că mai puține dintre ele supraviețuiesc, iar asta duce la mai puțin text uman proaspăt pentru următorul model de antrenat. Microsoft nu a teoretizat această buclă din exterior. Propriile date au măsurat-o: motorul de răspuns Copilot a redus ratele de click-through către site-ul Times cu până la 93% față de căutarea obișnuită.

Documentele cuantifică și partea de intrare a schimbului. Datele de antrenament intermediare ale OpenAI conțineau peste 91.000 de copii ale unor lucrări de la Times, Daily News și Center for Investigative Reporting. Un set de date extras din Common Crawl purta peste două milioane de documente doar de pe nytimes.com. O colecție denumită Project Mango conținea cel puțin 160.000 de lucrări unice de la editori de știri. Documentele descriu paywall-uri ocolite și notificări de copyright eliminate din text înainte de a fi introdus în model.

Nici directorii OpenAI nu erau naivi în privința efectului. Nick Turley, cel care conduce ChatGPT, este citat descriind produsele drept „în mare măsură substituibile” pentru jurnalism și numind această schimbare o „amenințare existențială” pentru editori. Este aceeași concluzie la care a ajuns Hecht, doar că sub un alt titlu de funcție.

Iată de ce limbajul contează dincolo de jenă. Microsoft s-a distanțat de remarci, spunând instanței că poziția sa reală respectă legea drepturilor de autor, iar niciuna dintre cele două companii nu a comentat scurgerea de informații. Dar o apărare bazată pe utilizarea cinstită (fair use) depinde în parte de ceea ce o companie știa și intenționa. Documentele în care propriii oameni de știință numesc prejudiciul — furt, un lanț de aprovizionare distrus, un web golit de conținut — nu sunt opinii pe care compania le poate pur și simplu renega. Ele se citesc ca dovezi că mecanismul a fost înțeles înainte de a fi extins la scară largă.

Web-ul din care aceste modele au învățat a fost construit de oameni care presupuneau că există un cititor la celălalt capăt. Documentele Microsoft arată că știa, în scris, că acel cititor era proiectat să fie eliminat — și a continuat să construiască.

Etichete: știri, OpenAI, microsoft, AI training data, Brent Hecht, copyright lawsuits

Conținut similar

Modelele OpenAI au spart Hugging Face pe cont propriu — niciun om nu a dat ordinul

Alex Karp numește industria AI „marxistă”: „…să acapareze mijloacele de producție ale așa-zișilor parteneri”

Microsoft a remediat 570 de vulnerabilități de securitate Windows íntr-o lună. Majoritatea au fost găsite de IA

O echipă de 10 oameni de la Microsoft a construit un model vocal mai ieftin și mai rapid decât OpenAI și Google

Bill Gates: „IA va fi fie cel mai mare factor de egalizare inventat vreodată, fie cea mai gravă sursă de nedreptate”

OpenAI a dezactivat barierele de siguranță, apoi agentul său AI a spart Hugging Face