Когда Норберт Винер, отец кибернетики, писал свою книгу «Человеческое использование человеческих существ» в 1950 году, вакуумные трубки все еще были основными электронными строительными блоками, и в работе, по факту, было всего несколько компьютеров. Однако он вообразил будущее, которое мы сейчас наблюдаем, с беспрецедентной точностью, ошибившись лишь в незначительных мелочах.
Прежде любого другого философа искусственного интеллекта, он понял, что ИИ не просто будет подражать — и заменять — человеческим существам во многих видах интеллектуальной деятельности, но и изменит людей в этом процессе. «Мы всего лишь водовороты в реке вечно текущей воды», писал он. «Мы не является чем-то, что просто живет, мы модели, которые увековечивают себя».
Например, когда появляется множество заманчивых возможностей, мы готовы платить и принимать небольшие затраты на ведение бизнеса для доступа к новым возможностям. И очень скоро мы становимся зависимы от новых инструментов, теряем способность существовать без них. Опции становятся обязательными.
Это очень старая история эволюции, и многие главы из нее нам хорошо известны. Большинство млекопитающих может синтезировать свой собственный витамин C, но приматы, питающиеся преимущественно фруктами, потеряли эту встроенную возможность. Самоповторяющиеся шаблоны, которые мы называем людьми, теперь зависят от одежд, обработанной еды, витаминов, шприцев, кредитных карт, смартфонов и интернета. И завтра, если не сегодня, — от искусственного интеллекта.
Винер предвидел несколько проблем с этим положением вещей, которые Алан Тьюринг и другие ранние оптимисты ИИ в значительной степени упустили из виду. Реальная угроза, по его словам, заключалась:
…в том, что такие машины, хотя и беспомощные сами по себе, могут использоваться человеком или блокировать человеческих существ для увеличения их контроля над остальной частью расы, либо политические лидеры могут попытаться взять под контроль свое население, используя не сами машины, а политические методы, столь же узкие и безразличные к человеку, как если бы они были придуманы механически.
Очевидно, эти опасности сейчас весьма актуальны.
В СМИ, например, инновации в цифровом аудио и видео позволяют нам платить небольшую цену (в глазах аудиофилов и любителей кино) за отказ от аналоговых форматов, а взамен получать крайне простой — слишком простой — способ воспроизведения записей почти без ограничений.
Но есть огромная скрытая цена. Министерство правды Оруэлла стало реальной возможностью. Методы ИИ по созданию практически неотличимых поддельных «записей» делают устаревшими инструменты, которые мы использовали для расследований последние 150 лет.
Нам остается просто отказаться от краткой эпохи фотографических доказательств и вернуться в тот прежний мир, где память человека и доверие были золотым стандартом. Или же мы можем разработать новые методы . . . Читать дальше
Это интересно
+1
|
|||
Последние откомментированные темы:
-
В NASA назвали новые сроки высадки человека на Луну
(2)
TatiKa
,
19.01.2022
-
Зонд InSight: что скрывается в недрах Марса
(1)
zig
,
07.01.2022
-
Главные достижения марсианского вертолета Ingenuity в 2021 году
(4)
TatiKa
,
01.01.2022
-
История очевидца: «Я встретил Бога»
(8)
TatiKa
,
01.01.2022
-
Илон Маск утверждает «есть НЛО »
(5)
TatiKa
,
20.11.2021
20240416232137