Человек против ИИ

Кроме того, то, что алгоритм не изменяем, это проблема придуманная тобой, т.к. самообучающиеся программы существуют уже

Громкое заявление - ссылочку пожалуйста.

На диске Навигатора за инюь в разделе шароварных игр валяется демка стретегии, в которой всех бойцов нужно обучать с нуля или использовать заранее готовые модели поведения, после обучения бойцы выходят на поле боя и сражаются самостоятельно. Эта игрушка основана на эмуляции нейронных сетей - загрузка процессора при таких телодвижениях стретится к 100%. Конечно это не то самообучение, о котором идет речь, но тем не менее, если учесть сколько лет развития впереди, то самообучающиеся машины вполне могут стать реальностью.
PS А вообще читайте мою подпись - в будущем нет ничего невозможного

2Prisoner

Добавлю к утверждению Nagentus'a ссылочку на самообучающиеся шашки.

Originally Posted by Prisoner

проектировщики но не програмеры.

Ещё раз, по каким объективным причинам программера нельзя назвать проэктировщиком?

Originally Posted by Prisoner

Если програмер создаст алгоритм по своим знаниям то пилот по своим знаниям будет в разы лучше летать.

Вот это как раз громкое заявление, требующее доказательства. А ты подаёшь его, как аксиому, основываясь на каких-то своих соображениях.

Originally Posted by Prisoner

в результате долгих проб, неудачь, и испытаний.

А ты хочешь сказать, что пилоту дал в руки баранку, и он полетел без ошибок и неудач, изобретательно и с мегакомбинациями? К твоему сведению, большинство фигур пилотажа и тактических манёвров придумываются не на ходу безбешеными.

Originally Posted by Prisoner

предрасположеные руки легче обучаются и больших высот могут достичь.

Кто-то тут недавно обижался, что с его вопросов "съезжают"?

Originally Posted by Prisoner

да человеку что бы поменять поведение надо вернутся на носитель и помыть мозг

Если говорится про тактику одного человека, то мозг конечно можно мыть и в дороге. Но это преимущество нашей концепции "мало людей - много ИИ".

А представь себе тактику флота, где каждая боевая единица управляется человеком, которому надо растолковать, чего от него хотят в данной ситуации (тактику составляет не он, а командование). И вот, после всеобщих сборов и разъяснений (время!) пилоты по машинам, машины в бой. А противник хитрый. И он уже понял вашу тактику. И уже имеет контрмеры. И что? Если ты пилот и действуешь не по плану, то можешь подставить других. А если ты командующий, то тебе надо "всего-то" связаться со всеми вашими умелыми руками и на ходу корректировать тактику.

А теперь вопрос. Кому сложнее объяснить "хитрость", человеку, находящемуся в обстановке повышенной опасности, подверженному страху и инстинктам самосохранения, или скинуть новые алгоритмы компам? Ты в команде играл?

Originally Posted by Prisoner

да, разница только в том что после того как хитрость была придумана пилот сразу ее использует

Prisoner, таких безбешеных, на ходу придумывающих мегахитрости единицы. ИМХО, нельзя расчитывать на то, что ты выиграешь битву тем, что твои пилоты что-то там на ходу придумают. Учти ещё, что им надо вместе действовать, согласованно и хитрости друг-другу растолковывать на ходу.

Представляю себе план такого вот адмирала. Что-то вроде "Парни, выходим на позиции, а потом каждый придумывает мегахитрость и мы их всех убиваем. Они ведь просто боты."

Вообще представляется сразу аналогия из матрицы. Агенты - это боты. Нео - мегаизобретатель хитростей на ходу.

Originally Posted by Prisoner

ха Тен про тебя сказали что ты из игры. Шучу конечно, но хоть это игра но так же и демонстрация человеческой хитрости и других качеств.

Игра - это не демонстрация, это развлечение. Если боты будут такими, что их не обыграешь, игра никому не понравится (ну может за исключением некоторых ), разработчики не заработают, следовательно им этого не надо. Вот и объяснение всем изобретениям хитрости против глупенького и недоходчивого компа.

Тен, смею заверить я ничего подобного не утверждал.

Мне вот интересно, а вы учитываете, что пилот современного самолёта фактически тот же самый бот? Он же действует на автомате, принятие любого решения занимает секунды (а то и доли секунды).

...А теперь вопрос. Кому сложнее объяснить "хитрость", человеку, находящемуся в обстановке повышенной опасности, подверженному страху и инстинктам самосохранения, или скинуть новые алгоритмы компам...

Если уж пошла речь о скидываемых алгоритмах, то тут есть один существенный недостаток... Стандартные можно взломать и запихнуть в машины свои алгоритмы со всеми вытекающими последствиями для владельцев роботизированного флота.

Мне вот интересно, а вы учитываете, что пилот современного самолёта фактически тот же самый бот? Он же действует на автомате, принятие любого решения занимает секунды (а то и доли секунды).

Ну сюда же можно добавить, что пилотирование современных истребителей без поддержки компьютера невозможно, они (истребители) попросту аэродинамически неустойчивы, вот и выходит человек плюс AI, хоть с натяжкой

Originally Posted by Prisoner

а ясно выходит это програмер будет пилота учить летать да и еще дронов делать которые лучше пилотов летают. Просто смех

Прайз, интересно, почему все дискуссии с твоим участием превращаются в банальный переброс цитатами а-ля «кто кого переспорит»? Более того, чем дальше анализирую твои посты, тем сильнее мну грызёт подозрение, что подобный стиль ведения дискуссии направлен не на выяснение истины, а на то, чтобы показать другим участникам их полную (или частичную) несостоятельность и некомпетентность. ИМХО, стоит воздерживаться от такого подхода – он не прибавит тебе уважения со стороны других форумчан, а лично у меня уже начинает вызывать некоторое беспокойство.

Destroyer спрашивал именно про софт, который не обязательно будет обладать зачатками ИИ. А без софта современные самолёты, тем более боевые, действительно не летают, и софт этот славится своей надёжностью. За примером далеко ходить не нужно – бортовые компьютеры тех же F-16 управляются ОС QNX, которая нашла широкое применение в системах управления промышленными объектами (металлургия, энергетика, нефтегазодобыча, коммуникации... в моём родном городе, например, как минимум одна телефонная станция работает под управлением этой ОС).

Аналогично

Originally Posted by Prisoner

да а в военной академии тоже людей делают глупее. Или тенденция в образовании и подготовке кадров направленая на нестандартное мышление больше никому не нужна, а действительно нужны тупые зомбаки

Кажется, речь шла о том, что возможности ИИ в играх гораздо шире возможностей человека, поэтому разработчики игр ослабляют этот самый ИИ, чтобы играть было интересно. При чём здесь военная академия?

А фраза «ха Тен про тебя сказали что ты из игры» вообще тянет на гнусненькое такое подстрекательство/науськивание из арсенала засранца-детсадовца, с подоплёкой что Тен обидится и отвесит Эпаминонду подзатыльника. Искренне надеюсь, что последний раз наблюдаю на форуме... что-то подобное


Возвращаясь к теме... Кажется, здесь обсуждается ИИ, т.е. интеллект, способный получать информацию из внешнего мира, анализировать её и принимать решения. Отличительной чертой ИИ является обучаемость, как со стороны человека, так и самостоятельная. Те же нейросети могут накапливать опыт, анализировать и обобщать его, делать выводы. Это важно, например, для ботов-истребителей – налетали-настреляли, уцелевшие вернулись на базу для разбора полётов. Можно организовать обмен информацией прямо на ходу – есть истребитель собьют, можно хотя бы выяснить, почему именно, как он действовал и что не учёл. Не говоря уже о том, что обновить ИИ можно хоть всем ботам сразу, а человеку нужно индивидуальное обучение, которое очень недёшево обходится и, к тому же, будет перечёркнуто смертью в бою или наступлением старости. ИИ может хранить все факты и правила с момента своего создания – представляете, сколько возможных вариантов действий и их сочетаний можно заложить даже в гигабайты памяти. Походу, поведение ИИ в принципе может быть богаче поведения человека. И обучить ИИ проще – смоделировать бой, и «пущай полетает» Показания датчиков и изменение системы после реакции ИИ можно поручить эмулятору. Вычислительные мощности, правда, неслабые требуются... Но и до полномасштабных войн в космосе нам, к счастью, далековато (вообще, хорошо бы, если наши фантазии так и останутся фантазиями ).

ИМХО, для истребителей ИИ оптимальный выход – во-первых, исчезает необходимость в кабине и системе жизнеобеспечения, во-вторых, таких ботов не жалко терять пачками – людских жертв нет, а астероидов полно кругом. Ну и в-третьих, это позволит повысить манёвренность, т.к. самым слабым звеном будет не живой организм, которого сплющит перегрузками, а конструкция корабля. Про человеческий фактор (эмоции, невнимательность/халатность, ошибки) уже было сказано выше.


Далее. Кажется, в теме уже писали, что само название «Человек против ИИ» поставлено некорректно. Всё равно последнее решение будет за человеком, а ИИ – всего лишь орудие в его руках, позволяющее сосредоточиться на решении проблемы. Тот же Дейстроер очень метко выразился по этому поводу:

Originally Posted by Destroyer

Я говорю не о кучи зомбаков сидящих перед каменными счетами. Я говорю о ИИ + специалист – который научен в данном случае для решения задач поставленных ПЕРЕД КОРАЛЕМ В ЦЕЛОМ. А не перед отдельной его шестеренкой, которые обслуживаются тем самым ИИ.

При чём здесь сравнение суперсовременного истребителя с крейсером каменного века – мне непонятно.

Originally Posted by Prisoner

изначально проблема была в том что алгоритм для бота во время сражения не изменяем, потому если найти слабое место в действиях бота то их можно косить пачками

Лётчик свою деятельность строит из некоторого обширного, но конечного набора правил. Цель на радаре – сблизиться. Цель уходить – идти на перехват. Цель выпустила ракету – отстрелить ловушку, совершить манёвр. Перехват или противоракетный манёвр тоже поддаются разложению на составляющие, и так до наиболее элементарных действий, типа правый элерон на градус вниз, левый лонжерон на два градуса вверх, тяга двигателя 72 процента. Очень упрощённо, конечно, но это не более чем пример Почему в ИИ нельзя заложить элементарные действия, а потом их комбинировать в соответствии с определённым набором правил? Получившиеся более сложные действия также комбинировать, но уже по другому набору правил, и так далее... причём эти правила можно копить и оттачивать десятилетиями. Один блок ИИ будет решать общие задачи, т.е. в зависимости от ситуации принимать решения. Другой для приятого решения выберет алгоритм действий. Третий будет заниматься уточнением для каждого действия, в зависимости от показаний датчиков... и т.д.

Такте системы есть уже сегодня, другое дело, что они не 100% надёжны. Но в свете бурного развития технологий создания ИИ не думаю, что это принципиально не решаемая проблема

Ну и немного уточнений по HW

1. Сомтау не имели своего сектора (напомню, что фан-карту Норсхаунда сейчас не рассматриваем) – они отправлялись в дальние ресурсодобыточные экспедиции. Но по первому зову любой киит должен бросать все дела и отправляться на защиту родной планеты

2. Собана (интересно, однофамилец или тот самый «красный» ) сгребли не на защите Хиигары, а после его разведывательских поползновений – никак, вояграм не понравилось его любопытство и настойчивость в деле выяснения координат Балькоры. Кроме того, ХВК и ХВ2 бессмысленно сравнивать – разные разработчики по разному представляли себе ситуацию во вселенной ХВ.

З.Ы.

Originally Posted by Prisoner

в результате долгих проб, неудачь, и испытаний.

Методом долгих проб, неудач и испытаний любую мало-мальски сложную программу можно писать целую вечность. Есть постановка задачи, которая разбивается на всё более и более мелкие составляющие, и так до тех пор, пока эти подзадачи не могут быть реализованы на выбранном языке программирования. Для этих же подзадач пишутся тесты. Если для решения задачи не хватает фактов/данных/закономерностей, они подбираются опытным путём. С подобного рода деятельностью (правда, не на военке) мне довелось соприкоснутья совсем недавно

Отличительной чертой ИИ является обучаемость, как со стороны человека, так и самостоятельная. Те же нейросети могут накапливать опыт, анализировать и обобщать его, делать выводы. Это важно, например, для ботов-истребителей – налетали-настреляли, уцелевшие вернулись на базу для разбора полётов. Можно организовать обмен информацией прямо на ходу – есть истребитель собьют, можно хотя бы выяснить, почему именно, как он действовал и что не учёл.

Ten
Ну вериш нет, если ИИ будет поностью осозновать что происходит, ИИ попытается улизнуть с поле боя.
У него в принцепи может быть что-то типа опции самосохранения. И он захочет просто сбежать. У него нет же типа чуства долга, патриотизма.
Тем более, ИИ союзник может содружится с ИИ противником и пойти против своих. Как я вообще говорю, зачем думающий камп?

ИИ не будет полностью осознавать, что происходит на поле боя. Он будет осознавать и анализировать только те факторы, которые необходимы для выполнения возложенной на него задачи. Если человек не предусмотрит такого варианта поведения, сам по себе он не возникнет. Но его можно заложить, а заодно и правила, исходя из которых будет выбираться отступление.

О том, как два ИИ договорятся, вообще молчу Как они найдут общий язык, если каналы обмена информацией будут надёжно защищены от постороннего доступа? И о чём они будут договариваться, если задача – уничтожение кораблей противника?

Забавно обсуждение выглядит =)) каждый представляет этот гипотетический ИИ по-своему, абсолютно не желая попытаться понять модели ИИ, предлагаемые другими участниками обсуждения =)) А все выпады из серии "ты не понимаешь", "так не может быть", "ии договорятся" и проч. происходят из-за того, что мысли собеседников "примеряются" к собственному видению ИИ, и, естественно, никак с ней не сходятся =))

ладно, приношу свои извинения зашумел сильно
(вероятно причиной есть подорвано-депресивное состояние, по делам не из форума.)
впредь постараюсь себя так не вести.

А возвращаясь к теме вспоминается фильм "я робот" и книга Айзека Азимова (название уже не вспомню но там был робот предсказатель Жискар) по которой вроде и сделан фильм (а может просто по азимову).
Особенно проблемы когда нарушалось одно из трех правил(все три так или иначе запрещают причинение вреда человеку), случайно. И приходилось вызывать роботского психиатра чтоб тот правильно разговаривал с роботом, а то он мог вдруг понять что он нарушил правило и мог сгореть.
Короче все военные ии должны обладать интелектом на уровне овчарки.

Святая Ци, ну вы здесь и нашумели.

Ух много времени потратил что б прочесть всё что пропустил. К сожалению не все из тех кто продолжили дискуссию сделали так. Многих высказываний можно было бы избежать.
В начале хочу сказать что тема называется так, по причине тех обстоятельств и настроений на форуме при которых она создавалась. (Отпочковалась как обычно от другой. )

Во первых со вселенной ХВ всё уже было решено. Там люди присутствуют и в нехилом количестве. Я компетентен рассуждать лишь о ХВ2, всё о людях в ХВ1 уже рассказал Дред, а в ХВК люди присутствуют точно но его многие не хотят брать в расчёт вселенной ХВ. К примеру, давно проходил, посему не могу сказать в какой точно миссии мы спасаем экипажем на транспортниках. Это раз, и когда у нас выживают все нам дают бонус в виде двух элитных эскадр бомбёров. У них увеличенный и урон и живучесть. Не думаю что у них стоит виста вместо хрюши на БК, да и в реплике там кажись есть прямое высказывание о «пилотах».

Далее прежде чем приступить к написанию так ненавистного всем «мегапоста». Человек добавляет в системы ИИ творческий элемент, а также ту переменную которую не сможет просчитать ни один вражеский суперкомп. Возможно стоит приписать также и возможность самому принимать решение в ситуациях, которые просто нельзя было себе вообразить, но она всё-таки случилась. (пример конечно тупой и попрошу Ли меня за него не ругать, но всё же к примеру ИИ, это человек действующий сугубо по инструкции, но надеюсь не стоит говорить о недостатках такого человека, особенно если он руководитель какой-то группы людей, у него очень мало шансов справится с внештатной ситуацией если её не вписано в инструкцию)
Далее, одна ошибка человека может привести или к его смерти или к уничтожению целой серии ботов ИИ. К тому же если кто-то просчитает слабое место пилота то это будет грозить лишь уничтожением его одного, и то при условии что не сможет приспособиться к новым условиям и ситуациям. А если просчитать слабое место в алгоритмах ведения боя ИИ, то это грозит уничтожением многих единиц техники, по крайней мере до тех пор пока они не вернутся на базу для пополнения припасов и проапгрейдятся. Ведь у человека есть огромнейший опыт по тому как приспосабливаться для выживания. ( не надо мне говорить о том что он сбежит, речь идёт не о зелёных юнцах, а о настоящих воинах закалённых в боях, у которых инстинкт самосохранения действует для уклонения от вражеских атак и подстрекания быстро подсознательного, освоенного на опыте и личных качествах, анализе и выводе ситуации.
И последние, у человеческого общества есть одна странная особенность, оно даёт возможность одному стать намного лучшим чем другие. И при этом не думаю что он позволит скопировать кому-то свою мысленную модель для штамповки «консерв», даже если предположить наличии технологий позволяющих програмерам, скопировать модель поведение пилота во время боя, то апгрейды для банок будут до тех пор, пока будут живые пилоты у которых их можно будет взять.

Originally Posted by dozimitr

Компьютер не может быть лучше чем человек иначе зачем нам такой компьютер?

Думаю, утверждения можно немного подкорректировать. Такой компьютер как раз нужен, но возможен ли он, ведь всё что делает человек не совершенно, а ИИ создаст чел. Да и вот что, насколько мощным должен быть компьютер, дабы сделать нечто похожее на Сикстинскую капеллу, или к примеру дабы он мог моделировать чувства.

Как уже упоминалось, человек отлично чувствует свою машину. Как например объяснить ИИ то что не понимают даже сами водители. Опытный водитель чувствует как ведёт себя вся машина, а по изменению звуку или чуть изменившемся поведении машины на дороге может сразу сказать что и где не так.

По поводу просчетов алгоритмов, поиска слабых мест и так далее. Сколько длится современный воздушный бой? Другая формулировка: сколько живёт самолёт в бою?
Много успеете просчитать, найти?

Еще до войны в печати появился и сразу получил известность в военных кругах рассказ «Чувство гармонии». Его герой, некий генерал, явно списанный с известного теоретика войны, генерал-фельдмаршала Мольтке, подготовил настолько выверенный план сражения, что, не считая нужным следить за самим боем, отправился удить рыбу. Детальная разработка маневров стала настоящей манией военачальников времен Первой мировой. Задание для одного только английского 13-го корпуса в битве на Сомме составляло 31 страницу (и, конечно, не было выполнено). Между тем за сотню лет до того вся британская армия, вступая в сражение при Ватерлоо, не имела вообще никакой письменной диспозиции. Командуя миллионами солдат, полководцы и физически, и психологически оказались гораздо дальше от реальных сражений, чем в какой-либо из предшествовавших войн. В результате «генштабовский» уровень стратегического мышления и уровень исполнения на линии фронта существовали как бы в разных вселенных. Планирование операций в таких условиях не могло не превратиться в оторванную от реальности самодовлеющую функцию. Сама технология войны, особенно на Западном фронте, исключала возможность рывка, решительной битвы, глубокого прорыва, беззаветного подвига и в конечном счете — сколько-нибудь ощутимой победы.

Из статьи "Гибель старого мира"
Нельзя что-то планировать и командовать, не зная реальной обстановки. Командовать и планировать должен человек, компьютер лишь помогает - вроде такое условие сосуществования техники и человека? Следовательно, человек должен находится в зоне боевых действий, а это влечёт за собой и разработку средств защиты его. Или же, когда защита не догоняет атаку, а она не будет догонять, то - возможность децентрализации власти. Следовательно, людей на космическом поле боя будет достаточно, меньше, чем в 1ую Мировую , но будет "хватать". Тем более, что зона боевых действий будет огромной, с учётом нынешних технологий, за спиной отсидеться не удастся, разве что, в Мамко. И лететь надо будет от "одного угла карты" до другого день или два, или месяц, если мы говорим о об обычных двигателях. С гипердвигателем понятие "тыл", где можно отсидеться - исчезает.

Кроме того, не идеализируйте программеров и их программы. Я смотрю на код однокурсников и свой - и думаю "ужас, как это работает???". Могут быть тонны причин, почему программа глючит.
Обучающиеся программы учатся каким-то определённым действиям в определённой среде. Это можно сравнить с вот этим высказыванием:

...в стенах лаборатории «экспериментальный факт», скорее, «конструируется», чем обнаруживается.

Человеку с его убер-мозгом и повышенной обучаемостью, восприятием мира в детстве, требует 3-5 лет, чтобы научится речи. Создать компьютер, похожий на человеческий мозг по вычислительной способности, - это вопрос очень долгого времени.
Проще натренировать человека. Да, боевые контакты близкого рода, вроде схождения истребителей - оставить на компьютер, заменить инстинкты компьютером, но не разум.

UPD (22:33):
2dozimitr: Ну, ранее по теме я говорил о том, что систему "человек-оружие" или "человек-боевая машина" нужно развивать не только со стороны машины, но и со стороны человека.

2Lee: теория эволюции сама под вопросом - слишком много палок-фактов ей в колёса . Просто дело в том, что это пока что единственное вразумительное и научное объяснение, что же происходит с живыми организмами на протяжении дооолгого времени.

ЗЫ: Кстати, новость: британские ядерные подлодки посадили на Виндозу.

Разум всегда побеждает.

Просто хочу привести пример. Из старых добрых звездных войнов.
Элитные войска клонов обладали небольшой тенью разума. Тоесть:смекалка, творческая мысль, риск, сообразительность, и т.д. Что давало хорошее преймущество перед не очень сообразительными авто дройдами.
В принципе, если кораблем будет управлять даже со сторыны живой пилот, он сделает стандартный автопилот.

Есть много предположений. Вот, скажем через 350 лет, компы будут нереально мощьные, умные на 20% превосходящий нынешний(в смысле на наш 2009 год) чел. разум. Но и человек тоже развивается, улущшается. Самосовершенствуется. Так что комп никогда не превзойдет мозг.

Originally Posted by dozimitr

Но и человек тоже развивается, улущшается.

Человек уже относительно давно, по человеческим меркам, не эволюционирует

Человек уже относительно давно, по человеческим меркам, не эволюционирует

В мерках и дело. В масштабах Земли прошло ещё слишком мало времени, чтобы делать такиe выводы.

С другой стороны, процесс эволюции идёт, но крайне медленно. Первую роль стала играть адаптация к своей же искусственно созданной техногенной среде. А придумывая лекарства к болезням, излечивая пороки сердца и инвалидов, человек сам ставит себя в эволюционный тупик. Извините за жёсткость, но это так.

З.Ы. Машина должна работать, человек - думать © IBM

Полностью согласен с тобой Дрон01.
Даже скажу большее, эволюция- непрерываемое, направленые изминениы конкретного вида.
Если сравнить пещерного человека и современного, явно увидим эволюцию. И также подчеркну вышесказаное Дрон01м, прошло слишком мало времени.

Originally Posted by dozimitr

Даже скажу большее, эволюция- непрерываемое, направленые изминениы конкретного вида.

Батюшки!
Ох ё...

Originally Posted by Lee

Человек уже относительно давно, по человеческим меркам, не эволюционирует

дети индиго против компьюторов: "догоним и перегоним!"

Не помню, в какой теме был холивар о количестве экипажа, напишу сюда
Только что по Discovery показывали финский корабль быстрого реагирования. Управляет им один человек. Фраза такая проскочила. Команда, конечно побольше, но всё же. Это к слову о многомиллионных экипажах, о которых тут говорили некоторые господа )