Может ли технология стать слишком сложной, чтобы цивилизация, которая ее создала, больше не могла ее понять?

Как люди могут преодолеть или предотвратить такой исход?

4 симпатии

Я расскажу вам о том, что существует прямо сейчас, что ни одна группа самых умных людей в мире не может понять.

Алгоритмы нейронной сети - это тип искусственного интеллекта, который используется каждый день. Google использует передовые алгоритмы, чтобы предоставить вам первоклассные результаты поиска. YouTube рекомендует вам видео с использованием алгоритмов. Автомобили с самостоятельным вождением используют безумно сложные нейронные сети, чтобы распознавать, стоит ли человек на их пути или нет, поэтому они могут вовремя остановиться. Нейронные сети повсюду, и они важны.

Однако никто не знает, как они работают.

Представьте себе сложную нейронную сеть, в которую программист загружает миллиард изображений людей, а затем миллиард изображений различных автомобилей (причем программист объясняет, является ли каждая фотография изображением человека или автомобиля).

Если этот пример звучит знакомо, возможно, это так. Недавно Google попросил вас идентифицировать изображения дорожных знаков, автомобилей или улиц для своей reCAPTCHA, чтобы убедиться, что вы не бот? Если это так, вы стали программистом, сообщающим алгоритму ответ на изображение. По совпадению, Google сейчас разрабатывает собственную машину для самостоятельного вождения, и вы стали бесплатной рабочей силой для них, чтобы помочь в разработке их алгоритмов. Весело, а?

После подачи миллиардов изображений, алгоритм довольно хорошо предсказывает, является ли какое-либо дополнительное изображение автомобилем или человеком. Но мы понятия не имеем, что происходит с данными после того, как они попадают в «черный ящик».

1

Это представление нейронной сети (она называется нейронной сетью, потому что она смутно напоминает структуру нейрона мозга, еще одну часть биологической «технологии», которую мы не знаем, как она работает).

Круги представляют «узлы», а линии следуют за данными, когда они вводятся, растягиваются, искривляются, сгибаются и, наконец, выводятся пользователю. В то время как мы можем выяснить, что делают отдельные узлы, и мы можем выяснить, что делают маленькие кластеры, мы абсолютно не знаем, как данные передаются с одного конца и выходят с другого конца.

Теперь есть подвох. Если вам нужна высокая интерпретируемость (то есть вы ДОЛЖНЫ знать, как манипулируют данными от начала до конца), вам придется придерживаться относительно менее сложной, менее надежной нейронной сети. Это может правильно идентифицировать автомобиль против человека в 60% случаев, но, по крайней мере, вы будете знать, как он работает.

С другой стороны, у вас может быть сверхсложная, сверхточная (> 99%) нейронная сеть, но вы должны пожертвовать знаниями о том, как обрабатываются ваши данные.

Итак, чтобы ответить на ваш вопрос: это уже произошло. У нас уже есть технология, которую мы не понимаем, но мы по-прежнему используем ее почти во всех отраслях (что должно вас немного беспокоить). И это только используется все больше и больше. Ура за прогресс, наверное?

По материалом:
https://www.quora.com
https://stackexchange.com

5 симпатий