Когато изкуственият интелект "лъже" – юристите плащат сметката

В САЩ адвокат беше глобен с рекордните 10 000 долара, след като съдът установи, че почти всички цитати в жалбата му са измислени от синтетичен ум. Магистратите подчертаха, че това решение е предупредителен сигнал – юристите сами носят отговорност, когато използват езикови модели без проверка.

Адвокатът обяснил, че не е знаел за склонността на системите да „халюцинират“ и не е проверил източниците ръчно. Той призна вината си и обеща, че вече е преминал обучение, за да избегне такива грешки.

Разследване на медията 404 Media показа, че случаят не е единичен – по света вече има над 410 подобни дела, включително 269 само в САЩ. Оплакванията са различни: претовареност, кратки срокове, лични проблеми. Някои дори обвиняват асистенти или твърдят, че са станали жертва на системни сривове или заразен софтуер.

Общото е едно – адвокатите все по-често предават документи, написани от изкуствен интелект, без да ги проверяват. Така в съдебните зали навлизат фалшиви решения и неверни цитати, които подкопават доверието в професията.

Днес синтетичните умове вече са част от юридическата практика – вградени в бази данни, справочни системи и предлагани от множество стартъпи. Но колкото по-нормално изглежда използването им, толкова по-голям става рискът грешките да минават незабелязано.

През последната седмица изследователите са регистрирали още единадесет нови случая. Така американската съдебна система постепенно се оформя в среда, където използването на езикови модели е ежедневие – а всяка небрежна стъпка може да коства кариера и лиценз.