Тогда в чём вообще смыл вопроса про наполнение их голов? С таким же успехом там может быть магический кристалл какой-нибудь

Я так понимаю, что у тебя концепт в том, что типа вот есть некоторый биологический мозг, из-за которого пришлось бонклов сделать гуманоидами с чувствами? Типа особенности конструкции? Если да, то это норм звучит, но я всё равно хочу защитить ту точку зрения, что их мозг спокойно может быть и железным, и даже как-то это рационализировать.

Потому что я верю, что рано или поздно можно будет создать разумную систему, и даже внедрить в неё "чувства". Они не будут устроены, как человеческие, не будет химии, но они будут некоторым образом влиять на восприятие ситуации машиной. У нас есть разные отделы мозга, каждый из которых отвечает за какой-то из наших внутренних процессов, и когда-нибудь мы достаточно с этим разберёмся, чтобы это можно было смоделировать. Да тот же естественный отбор можно просимулировать для этого с гораздо большей скоростью. И если такая машина будет вести себя неотличимо от человека, действовать и чувствовать как-то совершенно независимо, то я буду только рад относиться к ней как к живому существу. Это к вопросу одушевлённости био.

А причины создать такое существо в сеттинге био можно найти и в нашем мире. Зачем нам, людям, гуманоидные роботы? Потому что несмотря на сложность человеческого опорно-двигательного аппарата, нам бы очень пригодились машины в форм-факторе человека, чтобы они могли взаимодействовать с человеческой инфраструктурой и брать на себя человеческие задачи. Зачем нам машины, с которыми можно общаться человеческим языком и ожидать такую же человеческую реакцию? Потому что нам самим так проще будет взаимодействовать. Вот и у Великих всё могло быть +- так же, захотели сделать железных существ по своему образу и подобию. И сделали.

Короче да, no problem с биологическим мозгом, но я верю что и железный мозг может существовать.

Ну потому что это все таки детали, которые влияют на историю. Например тот же магический кристалл приводит к тому, что в мире есть магия, которая позволяет создавать в том числе и разумных существ. В нашем случае у нас есть Великие, которые настолько талантливы, что могут создать полностью разумный компьютер, а подробности процесса не важны, главное суть.
В тех же All Tomorrows у нас есть Раса Ку, которая настолько могущественна в биоинженерии, что была способна переделать всю постчеловеческую расу в разнообразный каталог человеческих покемонов. И автор не прописал как именно они это делали, так как это было не важно для истории, важен сам факт этого и его последствия.

А какой смысл уточнения про электронную начинку? Вот они не живые, а компьютеры. И что с этого? Какую сюжетную функцию несёт это уточнение про ИИ? Они же не роботы, а БИОмеханоиды.

Если Великие хотели создать "типа людей", то проще было наклонировать агори - те тоже тысячи лет живут. А так просто выходит попытка подавления недоверия, вызванная невежеством Грега и вообще большей части фанбазы в вопросах ИИ.

Не то чтобы это было чем-то из ряда вон, у нас вся массовая культура полнится железками разной степени разумности и странно требовать от бонклей реалистичности в этом вопросе. Просто не стоит забывать, что то, что кажется разумным, не обязательно является разумным. Так-то и у нас есть продвинутые чат-боты, которые разговаривают как люди и могут имитировать осмысленную беседу. Философский зомби же.

Такой же, как у уточнения про живой мозг, на самом деле. Биомеханика может совершенно разные формы принимать.
В общем, я всё ещё придираюсь только к тому, что ты сразу исключил то, что био могли бы иметь железный мозг.



Ну если копнуть глубже, то сама необходимость существования бонклов внутри ОБЧРа в их нынешнем виде становится сомнительной.



Да, поэтому мы говорим про технологии будущего всё-таки. А тут уже стоит вопрос того, веришь ли ты в возможность существования AGI (сильного искусственного интеллекта). Я вот верю, что это всё очень даже реалистично.

AGI это не равно человек. Это лишь значит, что ИИ может решать разнообразные задачи, подобно человеку или даже лучше него. Задача на входе - решение на выходе.

А если прикрутить к нему интроспекцию, мотивации, социальные навыки, какие-то потребности? Всякие такие вещи, которые будут влиять на его поведение.
Тогда он будет думать, он будет планировать, искать что-то.

Само собой, но опять же для "человечности" этого мало. Просто крутой алгоритм, который может создавать разные подзадачи для решения основной. Потенциально, взаимодействовать с окружающим миром, воспринимать электромагнитные волны или звук, перемещаться в пространстве. Самосознание и внутренние ощущения для этого вовсе не нужны.

Т. е. от человека таких роботов будет отличать только два пункта, или же ещё какие-то есть? Кроме того, чем наши самосознание и внутренние ощущения не продукт крутых биологических алгоритмов? И почему у роботов не сможет возникнуть чего-то похожего, когда они начнут как-то комплексно воспринимать мир через призму своего накопленного опыта? Не то, чтобы я пытаюсь отрицать то, что быть человеком — это магия. Наоборот, я просто с радостью жду момента, когда мы увидим искусственных живых существ. Грядущий ИИ заслуживает человеческих прав.

Вообще, природа сознания и такой штуки как субъективный опыт до сих пор не раскрыта, и вполне возможно, что это вообще никогда не случится. Просто в силу некоторой абсурдности самой постановки вопроса: объективно описать то, что по определению субъективно.


Проще будет перечислить немногочисленные поверхностные сходства, лол. Природа фундаментально другая. Эта хрень в умственном плане будет отличаться от человека сильнее, чем тарантул или осьминог. Это будет НЁХ в прямом смысле этого слова. Даже с нашими текущими нейросетями уже зачастую невозможно понять, что конкретно там у них внутри происходит, кстати. Именно поэтому их обучают, а не программируют.


Опять же, тут вопрос, что можно считать жизнью, определений множество. Очень привлекательно выглядит определение, что живое существо - это некая структура, которая может воспроизводить свои собственные копии в определённой среде, но таким макаром ведь и компьютерные вирусы можно в жизнь записать. Возможно, мы просто в силу своей природы пытаемся переносить простецкие, бытовые термины на гораздо более сложные области.


Уж где-где, а в нашем мире человекоподобного ИИ точно не предвидится. Как минимум потому, что природа человеческого сознания либо в принципе не познаваема, либо настолько нелогична и запутанна, что проще будет смоделировать мозг целиком в виртуальной среде (как недавно сделали с мухой), чем пытаться воссоздать его из транзисторов.

Согласен. Меня устраивает определение в стиле "это продукт работы мозга".



Да это просто матрицы перемножаются. Всё хорошо.



mafs

На самом деле, хватает знать, что поступает на вход, и идёт на выход. Потому что с этим мы можем работать, и как-то комбинировать это с другими системами.



Учитывая, что естественные вирусы не сильно далеко от механизмов ушли, то почему бы и нет.



А если мы так сделаем, ты признаешь получившееся разумным существом? Не думаю, кстати, что это сильно проще, потому что масштабы нашего мозга прям уж очень большие.
С другой стороны, кто-то пытается и такие системы разрабатывать: https://en.wikipedia.org/wiki/SpiNNaker

Угу, только их триллионы.

Для утилитарных целей - да, вполне. Но таким подходом нечто человекоподобное не создать. Проверить будет нельзя, притворяется ОНО или вправду себя осознаёт.

Живое - это и есть механизмы, просто очень сложные.
Вообще, печально, что наш язык основан на символах и категориях. Для бытовых нужд пойдёт, но анализируя ту же жизнь... Там грань вообще нечёткая между живым и не-живым. Я бы даже сказал, что её не существует. Вселенная сама по себе живая, просто потому что мы её часть.

Задача настолько астрономически сложна, что её реализация в каком-то обозримом будущем попросту невозможна. Ведь составить модель расположения нейронов - это ещё только начало, надо ещё и их взаимодействие моделировать, а их миллиарды. Тут нужен будет суперкомпьютер размером со сферу Дайсона, удачи с этим)

Не знаю, мне кажется, это вполне себе реализуемо. Просто это не должен быть подход как при создании чатГПТ, когда в языковую модель просто скармливают весь интернет разом. Да и даже так мы примерно знаем что там внутри, так как вся архитектура — это просто прописать вероятности каким-то последовательностям токенов. Просто нам недоступны подробности этих вероятностей. Ну и никакого разума в такой системе тоже нет, конечно.
Если же появится сложная система, которая будет в силах воспринимать реальность, потом её моделировать, моделировать гипотетические ситуации... Не знаю, мне кажется такая разработка сможет дойти до разумности и индивидуальности в какой-то момент, когда там появится достаточное количество подсистем, аналогичных человеческим.


Знаком со студентом философского, который пытается всем доказать, что надо перейти на формальный логический язык.
Остальные пытаются ему доказать, что надо мыться чаще...


Мне кажется, это реализуемо в масштабах хз, квартала из компьютеров. Возможно, это будет слишком дорого, и этот мозг будет очень медленный... Но надо же с чего-то начинать.
Но да, сначала какую-нибудь мышь хотя бы реализовать.

Ну, подобное утверждение исходит скорее из иррациональной веры в неизбежность подобного предприятия. Кроме того, даже если что-то подобное станет физически возможным благодаря развитым технологиям, нужно учитывать ещё и тот факт, что разум в его "человеческом" виде - это лишь один из бесчисленного множества других возможных вариаций. Почему же, и, главное, зачем создавать именно это, если будет возможность создать что-то совершенно иное и уж наверняка более эффективное?

Интересно, как он себе это представляет.

Вопрос целесообразности. Реализовать астрономически дорогой и технически сложный проект, чтобы... что? С имитацией дружелюбного собеседника и продвинутая нейросеть справится. Делать такое "интереса ради" - никто не будет.
А как насчёт морального аспекта? Мы, вроде как, клонов человеческих не создаём, а тут проблематика такая же.

Да, но это не то чтобы беспричинная вера. Основываюсь на достижениях настоящего.



Да, наверное, в процессе могут получиться и другие виды разума, я не отрицаю. Но почему мы делаем человекоподобное? Нам нравятся люди, и нам нравится, что мы лучше всего понимаем именно людей.



"Человеческий язык допускает неоднозначность, поэтому нам нужен способ однозначно описать весь мир вокруг при помощи логических предикатов etc." А ещё он так хочет уничтожить языковой барьер.



Как минимум это ещё один способ изучить работу человеческого мозга, что как бы очень важная задача.
А так огромные деньги и так тратятся на создание гораздо менее амбициозных систем, причём тоже чисто в исследовательских целях. Ну а со временем вычислительные мощности таких систем будут только расти.



Моральные проблемы? Вижу только легальные. Но пока что машины прав ещё не получили нигде.