>>5331054

>Даже не знаю что тут сказать

With Artellery, with taratatata!

Что тут написано и о чем тред? Не знаю английского языка, переведите пожалуйста кто знает.

>Unreliable A.I. tools

Хех. Проснулись. Но небось до сих пор предлагают считать, что есть reliable.

>>5331059
Ну хоть шумерский знаешь?

>>5331059
Сгенерированные LLM определители съедобности грибов верны заметно менее чем полностью, но это неочевидно дилетанту как в грибах, так и в LLM. Дальнейшее думаю понятно.

>>5331063
Ага. И это верно немногим менее чем для вообще всего.
Вот завтра соберешься печь печеньки, шасть в интернет за рецептами, а они сгенерированные. И вместо печенек получаешь, скажем, майонез.

>>5331122
В лучшем случае.

Этот тред был создан по ошибке - но пусть будет так.
https://www.zdnet.com/article/telegram-is-offering-some-users-a-free-premium-plan-but-theres-a-huge-risk/
Безумие? Безумие. Хотя сама 2FA через смски - уже безумие, но уже приелось.
А что думает Ычан по сему поводу?

>>5331059
>>5331059
В докладе "Растущий риск: Ненадежные ИИ-инструменты генерируют дезинформацию о грибах", написанном Риком Клейпулом и опубликованном организацией Public Citizen, подробно изложены опасности, возникающие в связи с использованием новейших технологий искусственного интеллекта в области идентификации грибов. Основная идея этого предостерегающего исследования заключается в том, что современные системы ИИ не способны воспроизвести тонкие нюансы реальных навыков, необходимых для различения съедобных и токсичных грибов, задача которой связана с высокими рисками из-за врожденной опасности сбора грибов.

Доклад освещает несколько ключевых моментов, начиная с случаев, когда доверие к технологиям ИИ приводило к серьезным последствиям для здоровья. Освещается явление переполнения рынка Amazon книгами, созданными с помощью ИИ, что побудило компанию ввести ограничения на самостоятельную публикацию, подчеркивая трудности различения достоверной информации в условиях растущей автоматизации. Особенно острая проблема поднята в связи с неправомерным использованием систем OpenAI ChatGPT и DALL-E для создания чат-ботов по идентификации грибов, способных генерировать путающую и опасную дезинформацию.

Основной аргумент доклада касается неотложной необходимости прозрачности и ответственности со стороны компаний, развертывающих эти технологии ИИ. Утверждается, что компании должны не только раскрывать использование ИИ, но и активно напоминать пользователям о ограниченности технологии. В докладе высказывается мнение, что компании должны нести ответственность за ущерб, вызванный полаганием на ложные или обманчивые сведения, генерируемые ИИ, и выступает против использования договорных условий, освобождающих их от ответственности.

Подробный анализ рисков, связанных с ИИ-приложениями для идентификации грибов, рисует тревожную картину. Несмотря на их потенциал как образовательных инструментов, ненадежный характер этих приложений и человеческая тенденция к автоматизированному предвзятому восприятию делают их непригодными в качестве основных ресурсов для сборщиков грибов. Анализ доклада подкреплен результатами исследований австралийских ученых, тестирующих надежность таких приложений, что подчеркивает опасность их использования в критически важных процессах принятия решений.

В докладе критически оценивается появление контента, генерируемого с помощью ИИ, в сфере сбора грибов, особен

>>5331059
>>5331996
енно через платформы вроде Amazon. Описывается ситуация, когда сообщество грибников выразило обеспокоенность по поводу книг, подозреваемых в создании с помощью ИИ, что подтвердилось тестами с использованием программного обеспечения для обнаружения ИИ. Это иллюстрирует более широкую проблему ИИ-генерируемой дезинформации и ее потенциальную способность угрожать жизни людей.

Отчет также затрагивает применение генеративного ИИ для создания реалистичных изображений и текстового контента, связанного с грибами, демонстрируя посредством экспериментов, насколько легко такая технология может производить вводящую в заблуждение информацию. Исследование кастомных версий ChatGPT, предназначенных для идентификации грибов, дополнительно подчеркивает ограничения технологии и риски, связанные с ее преждевременным применением в областях, требующих экспертных знаний.

В заключение "Растущий риск" выступает мощным призывом к более тщательному контролю, регулированию и этическому рассмотрению внедрения технологий ИИ. Он не только выделяет конкретные опасности в контексте сбора грибов, но также стимулирует более широкую рефлексию по поводу последствий неограниченного распространения ИИ в различных сферах. Доклад утверждает незаменимую ценность человеческого опыта и критическую необходимость сбалансированного подхода к интеграции ИИ в нашу жизнь, подчеркивая высокую важность безопасности, точности и надежности в распространении информации.

>>5331996
>>5331997
Но это не точно, ибо сгенерировано большой языковой моделью на основе текста доклада.

Ура! Грибы!

>>5331054
Порфирыч сказал, что он ОП этого треда.

И да, он подтвердил, что ИИ в гугле сделал это нарочно.

>>5331996
>>5331997
>>5331998

Там уже много интересных случаев подобралось. Читал про историю какого-то профессора, который спросил у ChatGPT про себя и узнал, что, оказывается, он помимо всех его реальных заслуг ещё то ли харассил женщин, то ли вообще насильник. В ответ на дальнейшие вопросы нейронка начинала ему предоставлять несуществующие источники.

То есть помимо того, что нейронка может нафантазировать в критических сферах вроде идентификации съедобных и ядовитых грибов, так она ещё и оклеветать может.

>>5332012
И не просто оклеветать, а выдумать несуществующие научные работы и журнальные статьи, и даже написать их.

https://habr.com/ru/articles/814649/
Ждём запрета компиляторов.

>>5339005
Я думаю, что логика тут такая, что с точки зрения суда в отличие от кухонного ножа и компилятора приватная крипта не решает никаких новых проблем, а только даёт возможности для проведения денежных операций вне поля зрения финмониторингов.

Не могу сказать, что полностью согласен с ней, но с другой стороны, несмотря на десять с лишним лет эволюции, ей всё так же нельзя оплатить покупку в магазине рядом, а новости про крипту в мейнстрим медиа сводятся к новостям об изменении курса битка и эфира, историям о том, как кто-то на этом изменении курса заработал или проиграл, а также рассказам о скамах.

>>5339005 vae victis, ничего нового. Для того чтобы посадить кого-то или вообще убить государству не нужен "честный суд", "честный суд" нужен для обмана населения. А врагов государства, включая беглых крепостных, будут преследовать всеми средствами, вплоть до израильских, и даже далее. Vae victis.

>Один из самых шокирующих фрагментов постановления – когда суд ясно даёт понять, что если преступник использует ваш децентрализованный инструмент с открытым исходным кодом для обеспечения своей приватности, то его уголовная ответственность полностью перекладывается на вас

Ничего шокирующего, это классика mechanism design и законов природы.

Mechanism design: по умолчанию ты во всём виноват и полностью обязан своему Владельцу, но ты можешь откупиться, подставив вместо себя других лохов.
Второе начало термодинамики: энтропия изолированной системы в любом неравновесном процессе возрастает. А Вселенная - это изолированная система (кто считает, что это не доказано - пусть предъявит рабочую червоточину, я, пожалуй, сойду отсюдова), а все процессы в реальности - неравновесные, а в равновесных обработка информации невозможна в принципе. Для жизни тебе нужно поддерживать свою энтропию низкой, а чтобы не проиграть в конкуренции - её понижать. Но она возрастает! Пойди, схвати кого-нибудь и съешь, повысь его энтропию вместо своей. Энтропия системы повысилась (причём повысилась строго больше, чем если бы ты сам разложился), она стала ещё менее жизнепригодной, но ты выжил, откупился от Создателя, принёс ему в жертву кого-то иного.

Грибование!