Найдено слабое звено в системе искусственного интеллекта

Как сообщает журнал Nature, американские учёные обнаружили, что у искусственного интеллекта имеется слабое место.

Научные сотрудники Нью-Йоркского университета провели эксперимент на модели GPT 3, чтобы выяснить, как дезинформация влияет на процесс обучения системы искусственного интеллекта.

Оказалось, что даже минимальное количество неверных данных (0,001%) приводит к тому, что нейросеть выдаёт значительное количество неверных ответов (10%), причём система совершает ошибки даже в смежных областях знаний.