Разум и машина
Когда системы понимают нас с полуслова, они становятся продолжением разума.
Почему это важно для меня
Я каждый день работаю с ИИ-агентами и вижу, как граница между моей мыслью и инструментом становится тоньше.
Ещё недавно компьютер выполнял команды. Сегодня он понимает намерение: можно объяснить задачу словами, показать набросок, поспорить о решении. Этот сайт, например, проектировала и проверяла команда ИИ-агентов, которую я собрал для своей работы.
Меня занимает не техника сама по себе, а то, что она делает с человеком. Если система помнит всё, что я знаю, подсказывает связи, которых я не вижу, и считает последствия лучше меня, где тогда кончается мой разум?
Вопросы, которые я себе задаю
Где заканчивается твой разум и начинается инструмент?
Что ты придумал бы, если бы у тебя был собеседник, который помнит всё?
Кому ты доверишь просчитывать последствия своих решений?
Каким будет разум многих людей, соединённых одной системой?
Я задаю их себе, когда собираю очередную систему агентов. Ответы пока меняются каждые полгода.
Моя позиция
Ближний горизонт: что-то вроде Джарвиса
Система, которая понимает голос и жесты в реальном времени, держит в памяти контекст и помогает изобретать: раскладывает идею, ищет слабые места, собирает информацию и подаёт её так, чтобы человек с его ограниченным вниманием мог её воспринять.
Это уже не фантастика. Части такой системы работают сегодня; задача в том, чтобы собрать их вокруг человека, а не вокруг рекламы и удержания внимания.
Машина, которая видит дальше
Человек плохо считает последствия: держит в голове несколько шагов, а решения влияют на годы и тысячи людей. ИИ уже сейчас помогает моделировать сложные системы и показывать, к чему ведёт выбор.
Для меня это аргумент в разговоре со скептиком. Если человека трудно изменить, потому что он не видит дальше своего страха, то инструменты, которые видят дальше, меняют условия задачи.
Инструмент, который видит последствия, делает разумное поведение проще, чем привычное.
Дальний горизонт: управление средой мыслью
Нейроинтерфейсы уже позволяют людям с параличом печатать и управлять курсором силой мысли. Я представляю шаг дальше: подумал, что хочешь приглушить свет, и он приглушился, потому что система верно прочитала сигнал и намерение.
Здесь много открытых вопросов — приватность, безопасность, кто владеет данными мозга. Я считаю их частью направления, а не помехой ему.
Коллективный разум
Самое интересное начинается, когда к одной системе подключены многие. Знание перестаёт застревать в отдельных головах, идеи быстрее находят тех, кому они нужны. Это и технический вопрос, и вопрос о том, как люди договариваются без центра, который всем управляет.
Горизонты
Не прогноз, а направление, в котором я хочу двигаться
Сейчас
Системы понимают голос и жесты, помогают писать код, искать, изобретать. Команды ИИ-агентов берут на себя рутину и оставляют людям замысел.
Ближе
ИИ-помощник знает контекст твоей жизни и работы и считает последствия решений. Неинвазивные нейроинтерфейсы входят в повседневные устройства.
Далеко
Внешние системы становятся продолжением разума: среда откликается на намерение. Люди думают вместе, оставаясь собой.
Мыслители и книги
Мыслители
- Рэй Курцвейл Технологии развиваются по экспоненте, и однажды граница между биологическим и небиологическим разумом сотрётся.
Книги
- «Сингулярность близко» Научила считать будущее по экспонентам, а не угадывать его по интуиции, которая привыкла к прямым линиям.
- «Искусственный интеллект» Самый серьёзный разговор о рисках. Если строить системы умнее себя, думать о последствиях нужно заранее.
- «Жизнь 3.0» Каким может быть будущее с сильным ИИ и какие решения нужно принять заранее.
Что с этим связано
Получать новые мысли о разуме и машине
Хочешь не читать, а делать вместе? Познакомиться