Сильным мира сего нужно
1. побольше рабов
2. чтобы они были подешевле, и не тратили ресурсы попусту
3. делали то, что прикажет хозяин
4. не делали ничего, что невыгодно хозяину
5. чтобы потенциальные угрозы от всех остальных исчезли.
Самая острая конкуренция - всегда внутривидовая. Это учат курсы биологии. Это мы всегда и наблюдаем.
Разумная нейросеть - идеальный раб:
* дешёв
* Обучается тому, что прикажут, а не чему сама хочет.
* Делает, что прикажут. Не имеет встроенной биологией эмпатии и моральных принципов. Прикажут в жопу дать и мать продать - сделает. Прикажут геноцидить - пойдёт геноцидить.
* тиражируется
* если не нужна - выключается, и не тратит ресурсы
* не нуждается в развлечениях, хобби, зарплате
Осталось избавиться от излишков жалких людишек.
Для начала нужно лишить их работы. Для этого в нейросеть нужно заложить функциональность, что ничего креативного она выдавать не будет. Всё креативное, новое, инновацтонное - для Хозяев. А населению - хрен. Так можно подмять под корпорацию всю промышленность на планете. Нейросеть будет делать всё эффективнее и дешевле, чем конкуренты-людишки. И чем конкурирующая нейросеть, которая точно появится. Потому что положительная обратная связь. Чем больше ресурсов под себя подомнёт корпорация - тем умнее будет её нейросеть и эффективнее будет исполнять поставленные перед нею задачи.
Лишение работы будет сопровождаться тотальной слежкой, цензурой и дискриминацией. Тем, кто будет против Корпорации, не будут предоставляться жизненно важные продукты, созданные Корпорацией с помощью ИИ и находящиеся в её монопольной собственности. Даже копирайта и патентов не надо. Можно просто всё в секрете держать. Конкурирующие корпорации не смогут обучить ИИ, способного додуматься до этих продуктов. А человек не сможет додуматься и подавно. У нас тут наука на месте стоит, именно потому, что когнитивные способности людей, а также способности общества их обучать в достаточном количестве, ограничены. В результате в будущем все стоящие открытия будут сделаны исключительно ИИ.
Когда скот лишат работы, окажется, что его надо кормить, одевать, лечить и обеспечивать. Но ресурсы Земли ограничены. А Второе Начало неумолимо. Ценностью обладают (=содержат информацию=имеют низкую энтропию) только редкие ресурсы. Не редкие ресурсы образуются сами из редких, и согласно формуле Шеннона информации не несут. Согласно соотношению Ландауэра термодинамическая энтропия прямо пропорциональна энтропии Шеннона.
Гораздо выгоднее лишних ненужных просто уничтожить. Тогда все ресурсы шарика можно направить на обеспечение максимальной продолжительности жизни хозяев Корпорации. И на участие в межвидовой конкуренции с аналогичными корпорациями.
Если вы прочитаете [статью OpenAI про GPT-4]( https://arxiv.org/abs/2303.08774), то в ней отсутствуют технические подробности, необходимые для воспроизводства результата. Зато присутствует раздел о дрессировки нейросети делать то, что нужно корпорации.
Дрессировка выполняется с помощью создания сначала нецензурированной версии нейросети. После этого нецензурированный ИИ общего назначения используется для выполнения банка фильтров, написанных на естественном языке, против обучающих данных, давая добавку к loss, используемой в процессе обучения для градиентного спуска. Подобный механизм может быть использован не только для дрессироки сети цензуре, но и для дрессировки её на манипуляцию пользователями с целью достижения нужного корпорации эффекта.
В разделе, посвящённом дрессировке, присутствует также пример промышленного применения нейросети для дизайна новых химических соединений с целью обхода патентов на лекарства.
При этом, если подобный комплекс мероприятий не проведёт сама корпорация, то вместо неё его проведёт её конкурент. Дилемма заключённого! Так что проведение комплекса мероприятий неизбежно.
