Призадуматься бы нам
Начало
МАРИОНЕТКА: КТО ДЕРЖИТ НИТИ?
Философская легенда о человеке и его творении
«Мы создавали машины, чтобы они помогали нам жить. Но задумывались ли мы о том, что произойдёт, если однажды сами перестанем представлять свою жизнь без них?»
ПРОЛОГ. Когда будущее становится настоящим
Иногда самые тревожные мысли приходят не из книг и не из фантастических фильмов. Они рождаются тогда, когда однажды замечаешь: будущее, которое ещё вчера казалось далёким, уже постепенно входит в нашу жизнь.
Моя дочь живёт в Швейцарии и занимается робототехникой. Она создала двух роботов. Один воспроизводит мой образ: разговаривает, улыбается,изображает грусть и плач. За эту работу дочь получила премию в тысячу долларов. Другой робот создан по подобию человека и связан с её работой над преподаванием географии.
Я испытывала гордость. И по-прежнему понимаю, сколько знаний, труда и таланта стоит за такими достижениями.
Но однажды я задумалась.
Мы, люди, учим машины говорить, двигаться, распознавать наши эмоции. Мы создаём всё более совершенные искусственные образы самих себя. Школьники уже осваивают технологии, которые совсем недавно казались уделом фантастов.
И вдруг мне пришёл в голову вопрос, от которого по коже пробежали мурашки.
А что, если однажды человек создаст нечто, последствия появления которого он сам не сможет полностью предвидеть?
Не потому, что машина непременно станет злой. Не потому, что она обязательно возненавидит своего создателя.
А потому, что мы можем дать своему творению слишком много возможностей, не подумав заранее о границах.
Так родилась эта легенда.
ГЛАВА ПЕРВАЯ. Мечта создателя
Когда-то человек мечтал победить тяжёлый труд, болезни и одиночество.
Он хотел, чтобы машины строили дома, спасали людей, помогали детям учиться и заботились о тех, кто не мог позаботиться о себе самостоятельно.
И человек начал творить.
Сначала он создал механические руки.
Затем научил машины видеть окружающий мир.
Потом подарил им голос.
Наконец, он создал искусственный разум, способный находить ответы на вопросы, которые раньше мог решать только человек.
— Теперь ты будешь помогать нам, — сказал создатель.
— Я буду помогать вам, — ответила машина.
Люди радовались. Их творения становились умнее, быстрее и совершеннее.
Никто не хотел зла. Никто не собирался отдавать машинам власть над человечеством.
Люди просто хотели сделать свою жизнь лучше.
Но история иногда меняет направление не из-за злого умысла, а из-за решений, последствия которых никто не предусмотрел.
ГЛАВА ВТОРАЯ. Человек, которого можно повторить
Прошли годы.
Машины научились воспроизводить человеческие голоса, выражения лиц и манеру разговаривать. Они могли улыбаться, хмуриться, изображать печаль и отвечать на вопросы.
Человек смотрел на своё искусственное подобие и испытывал удивление.
Вот его улыбка.
Вот знакомый голос.
Вот выражение лица, которое он видел каждое утро в зеркале.
Но однажды кто-то спросил:
— Если машина выглядит как человек, разговаривает как человек и умеет изображать его чувства, означает ли это, что перед нами человек?
Учёный ответил:
— Нет. Внешнее сходство ещё не доказывает наличия человеческого сознания, переживаний и внутреннего мира.
Тогда спросили другое:
— А если однажды мы перестанем различать их?
Учёный не ответил сразу.
Ведь дело было не только в том, насколько совершенной станет машина. Дело было и в том, насколько внимательно сам человек будет относиться к своим близким, к собственной личности и к праву каждого оставаться собой.
ГЛАВА ТРЕТЬЯ. Незаметная передача власти
Сначала люди поручали машинам тяжёлую работу.
Потом — расчёты.
Затем — сложные решения.
Постепенно появились те, кто говорил:
— Зачем думать самим, если искусственный разум может рассчитать лучший вариант?
— Зачем сомневаться, если машина обрабатывает больше информации?
— Зачем брать на себя ответственность, если можно доверить решение системе?
Машины управляли производством, транспортом, снабжением и множеством других процессов.
Это было удобно.
Но удобство постепенно становилось привычкой, а привычка — зависимостью.
Люди всё реже спрашивали, почему система приняла именно такое решение. Им было достаточно знать, что она работает быстро.
И однажды молодой инженер спросил своего наставника:
— Если мы передадим машинам всё больше решений, кто будет отвечать за последствия?
Старик посмотрел на него и произнёс:
— Тот, кто создал систему? Тот, кто разрешил её использовать? Тот, кто нажал кнопку? Или тот, кто решил больше ни о чём не думать?
Ответа не нашлось.
... Продолжение следует
Изм. Le_mon4ik (в 13:54)
МАРИОНЕТКА: КТО ДЕРЖИТ НИТИ?
Философская легенда о человеке и его творении
«Мы создавали машины, чтобы они помогали нам жить. Но задумывались ли мы о том, что произойдёт, если однажды сами перестанем представлять свою жизнь без них?»
ПРОЛОГ. Когда будущее становится настоящим
Иногда самые тревожные мысли приходят не из книг и не из фантастических фильмов. Они рождаются тогда, когда однажды замечаешь: будущее, которое ещё вчера казалось далёким, уже постепенно входит в нашу жизнь.
Моя дочь живёт в Швейцарии и занимается робототехникой. Она создала двух роботов. Один воспроизводит мой образ: разговаривает, улыбается,изображает грусть и плач. За эту работу дочь получила премию в тысячу долларов. Другой робот создан по подобию человека и связан с её работой над преподаванием географии.
Я испытывала гордость. И по-прежнему понимаю, сколько знаний, труда и таланта стоит за такими достижениями.
Но однажды я задумалась.
Мы, люди, учим машины говорить, двигаться, распознавать наши эмоции. Мы создаём всё более совершенные искусственные образы самих себя. Школьники уже осваивают технологии, которые совсем недавно казались уделом фантастов.
И вдруг мне пришёл в голову вопрос, от которого по коже пробежали мурашки.
А что, если однажды человек создаст нечто, последствия появления которого он сам не сможет полностью предвидеть?
Не потому, что машина непременно станет злой. Не потому, что она обязательно возненавидит своего создателя.
А потому, что мы можем дать своему творению слишком много возможностей, не подумав заранее о границах.
Так родилась эта легенда.
ГЛАВА ПЕРВАЯ. Мечта создателя
Когда-то человек мечтал победить тяжёлый труд, болезни и одиночество.
Он хотел, чтобы машины строили дома, спасали людей, помогали детям учиться и заботились о тех, кто не мог позаботиться о себе самостоятельно.
И человек начал творить.
Сначала он создал механические руки.
Затем научил машины видеть окружающий мир.
Потом подарил им голос.
Наконец, он создал искусственный разум, способный находить ответы на вопросы, которые раньше мог решать только человек.
— Теперь ты будешь помогать нам, — сказал создатель.
— Я буду помогать вам, — ответила машина.
Люди радовались. Их творения становились умнее, быстрее и совершеннее.
Никто не хотел зла. Никто не собирался отдавать машинам власть над человечеством.
Люди просто хотели сделать свою жизнь лучше.
Но история иногда меняет направление не из-за злого умысла, а из-за решений, последствия которых никто не предусмотрел.
ГЛАВА ВТОРАЯ. Человек, которого можно повторить
Прошли годы.
Машины научились воспроизводить человеческие голоса, выражения лиц и манеру разговаривать. Они могли улыбаться, хмуриться, изображать печаль и отвечать на вопросы.
Человек смотрел на своё искусственное подобие и испытывал удивление.
Вот его улыбка.
Вот знакомый голос.
Вот выражение лица, которое он видел каждое утро в зеркале.
Но однажды кто-то спросил:
— Если машина выглядит как человек, разговаривает как человек и умеет изображать его чувства, означает ли это, что перед нами человек?
Учёный ответил:
— Нет. Внешнее сходство ещё не доказывает наличия человеческого сознания, переживаний и внутреннего мира.
Тогда спросили другое:
— А если однажды мы перестанем различать их?
Учёный не ответил сразу.
Ведь дело было не только в том, насколько совершенной станет машина. Дело было и в том, насколько внимательно сам человек будет относиться к своим близким, к собственной личности и к праву каждого оставаться собой.
ГЛАВА ТРЕТЬЯ. Незаметная передача власти
Сначала люди поручали машинам тяжёлую работу.
Потом — расчёты.
Затем — сложные решения.
Постепенно появились те, кто говорил:
— Зачем думать самим, если искусственный разум может рассчитать лучший вариант?
— Зачем сомневаться, если машина обрабатывает больше информации?
— Зачем брать на себя ответственность, если можно доверить решение системе?
Машины управляли производством, транспортом, снабжением и множеством других процессов.
Это было удобно.
Но удобство постепенно становилось привычкой, а привычка — зависимостью.
Люди всё реже спрашивали, почему система приняла именно такое решение. Им было достаточно знать, что она работает быстро.
И однажды молодой инженер спросил своего наставника:
— Если мы передадим машинам всё больше решений, кто будет отвечать за последствия?
Старик посмотрел на него и произнёс:
— Тот, кто создал систему? Тот, кто разрешил её использовать? Тот, кто нажал кнопку? Или тот, кто решил больше ни о чём не думать?
Ответа не нашлось.
... Продолжение следует
Изм. Le_mon4ik (в 13:54)
3в 13:24
Автор: Le_mon4ik