Conform Go4IT: Un fermier din China a pierdut aproape 10 hectare de cultură de susan, evaluată la o sumă considerabilă, după ce a urmat sfaturile unui chatbot AI pentru combaterea buruienilor și dăunătorilor. Substanțele chimice indicate de inteligența artificială au distrus recolta într-o singură noapte.
Ce a recomandat inteligența artificială
Fermierul, identificat drept Wu, în vârstă de 67 de ani, cultiva susan pe o suprafață de aproximativ 24,7 acri, echivalentul a aproape 10 hectare. Cultura sa era afectată de prezența buruienilor și a dăunătorilor. Inițial reticent în privința utilizării tehnologiei AI, Wu a decis să apeleze la un chatbot pentru a găsi o soluție. Potrivit informațiilor apărute în presa locală, serviciul AI i-ar fi recomandat un amestec specific de substanțe chimice. Fermierul a pus în aplicare recomandarea fără a verifica informațiile primite.
Efecte devastatoare asupra culturii
Rezultatul aplicării amestecului a fost dezastruos. Răsadurile de susan au fost distruse complet pe parcursul nopții, la fel și buruienile și dăunătorii pe care fermierul încerca să îi elimine. Experții au identificat ulterior problema principală în compoziția amestecului recomandat de chatbot. S-a constatat prezența unei substanțe erbicide destinată combaterii buruienilor cu frunză lată. Susanul, fiind și el o plantă cu frunză lată, a fost direct afectat. Mai mult, substanța respectivă este concepută pentru a fi aplicată țintit, spre deosebire de modul în care a fost utilizată de Wu, pulverizată pe întreaga suprafață cultivată.
Avertismentul AI ignorat
După descoperirea distrugerii recoltei, fermierul a revenit la chatbot pentru a înțelege cauzele. Sistemul a recunoscut problema asociată unuia dintre produsele chimice recomandate. Incidentul subliniază o limită importantă a instrumentelor bazate pe inteligență artificială: capacitatea de a furniza informații incorecte, chiar și atunci când răspunsul pare formulat cu o mare doză de siguranță. În acest caz particular, serviciul folosit de fermier afișa și un avertisment explicit, indicând că informațiile generate de AI pot fi greșite și necesită verificare.
Riscurile utilizării AI în domenii sensibile
O simplă verificare a informațiilor prin intermediul unor surse agricole specializate ar fi putut preveni această pierdere semnificativă. Fermierul ar fi putut, de asemenea, să solicite sfatul unui agronom calificat. Consecințele financiare ale pierderii recoltei sunt considerabile, iar terenul ar putea necesita o perioadă de recuperare, în funcție de efectele substanțelor asupra solului, înainte de a putea fi cultivat din nou. Acest incident reprezintă un exemplu concret al riscurilor asociate utilizării AI pentru luarea unor decizii cu impact direct asupra vieții reale. Un răspuns care pare plauzibil nu garantează acuratețea informației.
Recomandarea fermă este ca informațiile furnizate de chatboți să fie întotdeauna verificate din surse de încredere înainte de a fi puse în practică. Această precauție este cu atât mai importantă în domenii critice precum agricultura, medicina, finanțele sau siguranța personală. Utilizarea negândită a tehnologiei poate conduce la pierderi substanțiale, așa cum s-a întâmplat în cazul fermierului Wu.
Sursa: Go4IT
