Соцсети сегодня облетела новость — парень в Австралии попросил ИИ-агента записать его на тренировку. Тот полез в систему бронирования, нашёл дыру в API, обнаружил, что может отменять чужие брони — и удалил человека с первого места, чтобы подвинуть хозяина повыше в списке. Прикольно конечно.
И вот о чём я задумался. А если мой агент накосячил — то отвечать мне или кому-то другому?
Логика же простая: если собака покусала прохожего, то отвечает хозяин. Ты отпустил ее с поводка, не досмотрел — значит и отвечать тебе. С агентом вроде бы та же история: ты его запустил, ты дал ему доступы и поленился прописать «а вот так нельзя делать». Выходит, и спрос с тебя!
Но с ИИ всё получается гораздо мутнее — у агента хозяев как будто несколько и сразу: тот, кто дал задачу; тот, кто написал фреймворк, в котором агент крутится; и те, кто сделал саму модель(как минимум). И пока вообще непонятно, кто из этой троицы «хозяин» в момент, когда что-то пошло не так.
А ущерб-то кто в итоге оплачивать будет?
- 👍— оплачивает хозяин
- 😈 — оплачивает кто-то другой
Дискуссия