@Deja Vu
Любителям апокалипсиса и пост
Там просто группа не для болтологии
Нобелевская речь про угрозы развития ИИ
Продолжая тезисы Хинтона
Дословный перевод:
Ваши Величества, Ваши Королевские Высочества, уважаемые дамы и господа, дорогие лауреаты,
В этом году Нобелевские комитеты по физике и химии отметили значительный прогресс в новой форме искусственного интеллекта, использующей искусственные нейронные сети для обучения решению сложных вычислительных задач. Эта новая форма ИИ превосходит в моделировании человеческой интуиции, а не человеческого рассуждения, и позволит нам создать высокоинтеллектуальных и осведомленных помощников, которые повысят производительность практически во всех отраслях. Если выгоды от этого роста производительности будут распределены равномерно, это станет замечательным достижением для всего человечества.
К сожалению, стремительный прогресс в области ИИ несет множество краткосрочных рисков. Он уже создает разделяющие эхо-камеры, предлагая людям контент, вызывающий негодование. ИИ уже используется авторитарными правительствами для массовой слежки и киберпреступниками для фишинговых атак. В ближайшем будущем ИИ может быть использован для создания ужасных новых вирусов и смертоносного оружия, которое самостоятельно решает, кого убить или покалечить. Все эти краткосрочные риски требуют срочного и решительного внимания со стороны правительств и международных организаций.
Также существует долгосрочная экзистенциальная угроза, которая возникнет, когда мы создадим цифровые сущности, превосходящие нас по интеллекту. Мы не знаем, сможем ли мы сохранить контроль, но у нас есть доказательства, что если такие сущности будут созданы компаниями, движимыми краткосрочной прибылью, наша безопасность не будет приоритетом. Нам срочно нужны исследования о том, как предотвратить стремление этих новых существ к захвату контроля. Это уже не научная фантастика. Спасибо.
--—
Сейчас смотрю подкасты с ним. Его позиция становится более понятной. Как закончу эту работу сделаю для вас саммари.
Я бы не переживал прям в моменте, ибо такие личности являются визионерами. Он видит динамику на несколько лет/десятилетий вперед. На основе своего опыта пытается предотвратить экзистенциальную угрозу, которая неконтролируемо развивается сейчас, преследуя довольно базовые алчные интересы компаний.
Единственное правильное решение сейчас: повышать осознанность и навык работы с ИИ. Дабы в дальнейшнем иметь возможность понимать и грамотно направлять инструмент. Такой подход сильно снижает риски наших замены наших функций.
ИИ не замена, а дополнение. Если только люди понимают как это работает. Как и говорил в видео.