forum.opennet.ru - "Угроза принятия неверных решений от некомпетентного ИИ (AI)." (9)

"Угроза принятия неверных решений от некомпетентного ИИ (AI)."

Форум Информационная безопасность (Разное / Другая система)
Вариант для распечатки		Пред. тема \| След. тема
Изначальное сообщение		[ Отслеживать ]

"Угроза принятия неверных решений от некомпетентного ИИ (AI)."	+/–
Сообщение от Аноним (0), 17-Июн-23, 07:08
В общем сабж. Слыхал по новостям, что был спор между мером Москвы и гендиректором Сбера по поводу передачи госуправления в "руки" ИИ. Решил впервые пощупать и протестить "интеллект" этого ИИ. Пятница вечер..., вбил в поисковике "chatgpt online" и пошел тролить ИИ. Результаты: Сначала задавал ИИ сложные вопросы по ИТ, на которые существует решение. ИИ не смог найти ни одного ответа, но очень хитро увиливал. В принципе был честен, отвечал: что некомпетентен в данной области, что существуют какие-то внутреннее запреты на ответы по конкретно этой теме, что у него лингвистический ИИ, а не естественный и ему сложно отвечать. Хорошо лингвист этот ИИ так лингвист. Оставил ИТ и решил протестить способность ИИ глубоко понимать текст. Был честен и попросил разрешения ИИ на проведение его теста в области способности глубокого понимания сложного текста. ИИ согласился. Описал ИИ примерно как работает суждение в мозге человека, какими элементарными критериями могут руководствоваться люди, как создать эти критерии и попросил дать ответы на 3 сложных вопроса основываясь на его внутренней модели и знаниях плюс проанализировав конкретный текст. ИИ на первые два вопроса дал неверный ответ, а на третий вопрос ответа от ИИ не дождался. Лично я смог ответить на данные вопросы в возрасте 14-15 лет. Не считаю, что ИИ надо запретить. Наоборот его надо развивать! Но до уровня передачи управления ИИ каким-то процессом очень далеко. Как очень продвинутый поисковик и система дающая некие необязательные рекомендации, ИИ сегодня уже пригоден.
Ответить \| Правка \| Cообщить модератору

Оглавление

На первые два вопроса надо было проанализировать только данный лингвистический т, Аноним (1), 08:11 , 17-Июн-23, (1)
g План эвакуации а-а-аЦелое исследование ни о чём, капитаните, сударь Я с чатжпт, Tron is Whistling (?), 10:05 , 17-Июн-23, (2)
Госуправление в плане хозяйственных вещей, типа создания заявок на ремонты дорог, Аноним (3), 13:45 , 17-Июн-23, (3)

Проблема в руководстве На предприятии проблема в гендиректоре, который слушает , Аноним (4), 14:18 , 17-Июн-23, (4)

коммунисты поняли, что внедрять ИТ поделиться властью поэтому и откзались, , ivan_erohin (?), 21:29 , 24-Сен-23, (8)

Как раз они ничего не поняли Докладчик их раздражал Не вникли в проблему из-за, Аноним (9), 11:47 , 26-Сен-23, (9)

Федерация лет под двадцать три так существует До этого она так существовала поч, Аноним (-), 16:22 , 27-Сен-23, (11)

Тесты ИИ 2024 https www opennet ru openforum vsluhforumID3 135160 html 47https, Аноним (12), 08:10 , 30-Окт-24, (12)

Тестовая задача которую не решает ИИ Надо рассчитать LC-фильтр, фильтр низких ч, Аноним (13), 16:19 , 02-Ноя-24, (13)

Сообщения [Сортировка по времени | RSS]

1. "Угроза принятия неверных решений от некомпетентного ИИ (AI)." +/–

Сообщение от Аноним (1), 17-Июн-23, 08:11

> ... Оставил ИТ и решил протестить способность ИИ глубоко понимать текст. ...
На первые два вопроса надо было проанализировать только данный лингвистический текст, без применения дополнительных знаний и дать ответы "да" или "нет" основываясь только на данном тексте. ИИ неверно истолковал, не понял предложенный ему текст и дал не правильные ответы "да" или "нет"!
На третий вопрос надо было понять что чисто лингвистического ответа в данном тексте нет. Надо было заметить геометрическую прогрессию и дать ответ основываясь на вводных данных с лингвистического текста и знаниях с алгебры о геометрической прогрессии. ИИ не смог даже понять написанный текст, провести его лингвистический разбор и даже не дошел до того места где следовало применить дополнительные знания о геометрической прогрессии. Задавал наводящие вопросы, тыкал "носом" в конкретные абзацы, ИИ просто не понимал содержание сложного текста. На третий вопрос ответа от ИИ не было и ИИ не признал свою некомпетентность в данной области!
Может мне поисковик выдал ссылки на тупые ИИ. Может были плохие обучающие модели. Проведите свои тесты ИИ и опишите результаты. Мне ИИ не просто провалил все тесты, а давал ПРИНЦИПИАЛЬНО НЕ ПРАВИЛЬНЫЕ ответы!

Ответить | Правка | Наверх | Cообщить модератору

2. "Угроза принятия неверных решений от некомпетентного ИИ (AI)." +/–

Сообщение от Tron is Whistling (?), 17-Июн-23, 10:05

g План эвакуации а-а-а
Целое исследование ни о чём, капитаните, сударь.
Я с чатжпт побаловался единственным вопросом - "где находится [место "на", куда посылают]".
Оно думало полторы минуты и вывалилось с ошибкой.
Вот и весь "лингвистический ИИ". Баловство. Даже "не знаю" не выдало.

Ответить | Правка | Наверх | Cообщить модератору

3. "Угроза принятия неверных решений от некомпетентного ИИ (AI)." +/–

Сообщение от Аноним (3), 17-Июн-23, 13:45

Госуправление в плане хозяйственных вещей, типа создания заявок на ремонты дорог на основе показаний с датчиков (встроенных в эту дорогу) - это уже реализуемая история, ближайшее будущее.
Принятие политических решений (с помощью) ИИ - совсем другое. В конце концов, ИИ выдаст какую-нибудь странную хрень типа "мыши станьте ежиками", с припиской "я стратег". И наши чиновники возьмутся заставлять народ это дело исполнять, понятное дело. Надо понимать контекст, чтобы комментировать дискуссию.
Вопрос главный - почему занимались наноболтами в то время, когда на западе создавали сверточные сетки? Причем их создавали в том числе наши выпускники - недостатка в уровне образования не было. Сейчас в последний вагон заскакивать на хайпе не самая выигрышная стратегия.
Да, пока Греф только планирует заменять своих банкиров на ИИ, государство уже заменило труд целой кучи людей госуслугами. И придумали эту концепцию еще в 90х, Лужков с Примаковым. Это к вопросу о внедрении вещей в госуправлении, сколько десятилетий это занимает в реальности, а не в бреду финансистов. Лет пять поснимают сливки, поколядуют на ИИ-стартапах и перейдут к новой теме.

Ответить | Правка | Наверх | Cообщить модератору

4. "Угроза принятия неверных решений от некомпетентного ИИ (AI)." +/–

Сообщение от Аноним (4), 17-Июн-23, 14:18

> Вопрос главный - почему занимались наноболтами в то время, когда на западе создавали сверточные сетки?
Проблема в руководстве. На предприятии проблема в гендиректоре, который слушает эффективного менеджера, который в свою очередь предлагает сократить расходы, заменив высокооплачиваемых ИТ спецов и сложные ИТ решения на девопс с обычным ынтерпрайз софтом.
В СССР 50-60 предлагали ИТ внедрять для рутинного управления. но денег не дали.
В США в конце 1960-тых был на бумаге MULTIX и на его реализацию тоже денег тогда не дали, руководство сказало лететь на Луну.
Руководство не всегда принимает решение вкладывать деньги в правильные технологии.

Ответить | Правка | Наверх | Cообщить модератору

8. "Угроза принятия неверных решений от некомпетентного ИИ (AI)." +/–

Сообщение от ivan_erohin (?), 24-Сен-23, 21:29

> В СССР 50-60 предлагали ИТ внедрять для рутинного управления. но денег не дали.
коммунисты поняли, что "внедрять ИТ" = поделиться властью. поэтому и откзались, на всех уровнях.

Ответить | Правка | Наверх | Cообщить модератору

9. "Угроза принятия неверных решений от некомпетентного ИИ (AI)." +/–

Сообщение от Аноним (9), 26-Сен-23, 11:47

Как раз они ничего не поняли. Докладчик их раздражал. Не вникли в проблему из-за не компетенции и не увидели выгоды. Кибернетиков жестко разогнали.

Ответить | Правка | Наверх | Cообщить модератору

11. "Угроза принятия неверных решений от некомпетентного ИИ (AI)." +/–

Сообщение от Аноним (-), 27-Сен-23, 16:22

> Принятие политических решений (с помощью) ИИ - совсем другое. В конце концов,
> ИИ выдаст какую-нибудь странную хрень типа "мыши станьте ежиками", с припиской
> "я стратег". И наши чиновники возьмутся заставлять народ это дело исполнять,
> понятное дело. Надо понимать контекст, чтобы комментировать дискуссию.
Федерация лет под двадцать три так существует. До этого она так существовала почти 70 лет. Ещё раньше - уже считать больно.

Ответить | Правка | К родителю #3 | Наверх | Cообщить модератору

12. "Угроза принятия неверных решений от некомпетентного ИИ (AI)." +/–

Сообщение от Аноним (12), 30-Окт-24, 08:10

Тесты ИИ 2024.
https://www.opennet.ru/openforum/vsluhforumID3/135160.html#47
https://www.opennet.ru/openforum/vsluhforumID3/135160.html#86

Ответить | Правка | Наверх | Cообщить модератору

13. "Угроза принятия неверных решений от некомпетентного ИИ (AI)." +/–

Сообщение от Аноним (13), 02-Ноя-24, 16:19

Тестовая задача которую не решает ИИ:
Надо рассчитать LC-фильтр, "фильтр низких частот" для сети 50Hz, 220V. Частоты 45 - 65 Hz фильтр должен пропускать.
* Между фазой и землёй ставим конденсатор C1.
* Между нейтралью и землёй ставим конденсатор C2.
* За конденсатором C1 в разрыв фазы ставим тороидальный соленоид L1.
* За конденсатором C2 в разрыв нейтрали ставим тороидальный соленоид L2.
* За соленоидами между фазой и нейтралью ставим конденсатор C3.
<code>
        P >------/\/\/\/\/--------------*
              |      L1     |           |
              =C1           |           |
              |             |       Защищаемая
        G <---+---<       C3=      электрическая
              |             |          сеть
              =C2           |           |
              |      L2     |           |
        N <------/\/\/\/\/--------------*
</code>
Сначала необходимо рассчитать при каких индуктивностях L1 и L2 в фильтре не будет возникать резонанс на частотах  45 - 65 Hz. Необходимо показать вывод всех формул. Для упрощения в конце формулу можно упростить приняв С1=С2=С3=С=100мкФ, L1=L2=L=?мГн.
Потом посчитать коэффициент сглаживания при С=100мкФ, L=1мГн для частот 100Hz, 1000Hz,10000Hz,100000Hz,1000000Hz. Вывести табличку и график зависимости коэффициента сглаживания фильтра от частоты сигнала.

Ответить | Правка | Наверх | Cообщить модератору

Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема

Партнёры:

Хостинг:

Закладки на сайте
Проследить за страницей

Created 1996-2024 by Maxim Chirkov
Добавить, Поддержать, Вебмастеру

1. "Угроза принятия неверных решений от некомпетентного ИИ (AI)."	+/–
Сообщение от Аноним (1), 17-Июн-23, 08:11
> ... Оставил ИТ и решил протестить способность ИИ глубоко понимать текст. ... На первые два вопроса надо было проанализировать только данный лингвистический текст, без применения дополнительных знаний и дать ответы "да" или "нет" основываясь только на данном тексте. ИИ неверно истолковал, не понял предложенный ему текст и дал не правильные ответы "да" или "нет"! На третий вопрос надо было понять что чисто лингвистического ответа в данном тексте нет. Надо было заметить геометрическую прогрессию и дать ответ основываясь на вводных данных с лингвистического текста и знаниях с алгебры о геометрической прогрессии. ИИ не смог даже понять написанный текст, провести его лингвистический разбор и даже не дошел до того места где следовало применить дополнительные знания о геометрической прогрессии. Задавал наводящие вопросы, тыкал "носом" в конкретные абзацы, ИИ просто не понимал содержание сложного текста. На третий вопрос ответа от ИИ не было и ИИ не признал свою некомпетентность в данной области! Может мне поисковик выдал ссылки на тупые ИИ. Может были плохие обучающие модели. Проведите свои тесты ИИ и опишите результаты. Мне ИИ не просто провалил все тесты, а давал ПРИНЦИПИАЛЬНО НЕ ПРАВИЛЬНЫЕ ответы!
Ответить \| Правка \| Наверх \| Cообщить модератору

2. "Угроза принятия неверных решений от некомпетентного ИИ (AI)."	+/–
Сообщение от Tron is Whistling (?), 17-Июн-23, 10:05
g План эвакуации а-а-а Целое исследование ни о чём, капитаните, сударь. Я с чатжпт побаловался единственным вопросом - "где находится [место "на", куда посылают]". Оно думало полторы минуты и вывалилось с ошибкой. Вот и весь "лингвистический ИИ". Баловство. Даже "не знаю" не выдало.
Ответить \| Правка \| Наверх \| Cообщить модератору

3. "Угроза принятия неверных решений от некомпетентного ИИ (AI)."	+/–
Сообщение от Аноним (3), 17-Июн-23, 13:45
Госуправление в плане хозяйственных вещей, типа создания заявок на ремонты дорог на основе показаний с датчиков (встроенных в эту дорогу) - это уже реализуемая история, ближайшее будущее. Принятие политических решений (с помощью) ИИ - совсем другое. В конце концов, ИИ выдаст какую-нибудь странную хрень типа "мыши станьте ежиками", с припиской "я стратег". И наши чиновники возьмутся заставлять народ это дело исполнять, понятное дело. Надо понимать контекст, чтобы комментировать дискуссию. Вопрос главный - почему занимались наноболтами в то время, когда на западе создавали сверточные сетки? Причем их создавали в том числе наши выпускники - недостатка в уровне образования не было. Сейчас в последний вагон заскакивать на хайпе не самая выигрышная стратегия. Да, пока Греф только планирует заменять своих банкиров на ИИ, государство уже заменило труд целой кучи людей госуслугами. И придумали эту концепцию еще в 90х, Лужков с Примаковым. Это к вопросу о внедрении вещей в госуправлении, сколько десятилетий это занимает в реальности, а не в бреду финансистов. Лет пять поснимают сливки, поколядуют на ИИ-стартапах и перейдут к новой теме.
Ответить \| Правка \| Наверх \| Cообщить модератору


	4. "Угроза принятия неверных решений от некомпетентного ИИ (AI)."	+/–
	Сообщение от Аноним (4), 17-Июн-23, 14:18
	> Вопрос главный - почему занимались наноболтами в то время, когда на западе создавали сверточные сетки? Проблема в руководстве. На предприятии проблема в гендиректоре, который слушает эффективного менеджера, который в свою очередь предлагает сократить расходы, заменив высокооплачиваемых ИТ спецов и сложные ИТ решения на девопс с обычным ынтерпрайз софтом. В СССР 50-60 предлагали ИТ внедрять для рутинного управления. но денег не дали. В США в конце 1960-тых был на бумаге MULTIX и на его реализацию тоже денег тогда не дали, руководство сказало лететь на Луну. Руководство не всегда принимает решение вкладывать деньги в правильные технологии.
	Ответить \| Правка \| Наверх \| Cообщить модератору


	8. "Угроза принятия неверных решений от некомпетентного ИИ (AI)."	+/–
	Сообщение от ivan_erohin (?), 24-Сен-23, 21:29
	> В СССР 50-60 предлагали ИТ внедрять для рутинного управления. но денег не дали. коммунисты поняли, что "внедрять ИТ" = поделиться властью. поэтому и откзались, на всех уровнях.
	Ответить \| Правка \| Наверх \| Cообщить модератору


	9. "Угроза принятия неверных решений от некомпетентного ИИ (AI)."	+/–
	Сообщение от Аноним (9), 26-Сен-23, 11:47
	Как раз они ничего не поняли. Докладчик их раздражал. Не вникли в проблему из-за не компетенции и не увидели выгоды. Кибернетиков жестко разогнали.
	Ответить \| Правка \| Наверх \| Cообщить модератору


	11. "Угроза принятия неверных решений от некомпетентного ИИ (AI)."	+/–
	Сообщение от Аноним (-), 27-Сен-23, 16:22
	> Принятие политических решений (с помощью) ИИ - совсем другое. В конце концов, > ИИ выдаст какую-нибудь странную хрень типа "мыши станьте ежиками", с припиской > "я стратег". И наши чиновники возьмутся заставлять народ это дело исполнять, > понятное дело. Надо понимать контекст, чтобы комментировать дискуссию. Федерация лет под двадцать три так существует. До этого она так существовала почти 70 лет. Ещё раньше - уже считать больно.
	Ответить \| Правка \| К родителю #3 \| Наверх \| Cообщить модератору

12. "Угроза принятия неверных решений от некомпетентного ИИ (AI)."	+/–
Сообщение от Аноним (12), 30-Окт-24, 08:10
Тесты ИИ 2024. https://www.opennet.ru/openforum/vsluhforumID3/135160.html#47 https://www.opennet.ru/openforum/vsluhforumID3/135160.html#86
Ответить \| Правка \| Наверх \| Cообщить модератору


	13. "Угроза принятия неверных решений от некомпетентного ИИ (AI)."	+/–
	Сообщение от Аноним (13), 02-Ноя-24, 16:19
	Тестовая задача которую не решает ИИ: Надо рассчитать LC-фильтр, "фильтр низких частот" для сети 50Hz, 220V. Частоты 45 - 65 Hz фильтр должен пропускать. * Между фазой и землёй ставим конденсатор C1. * Между нейтралью и землёй ставим конденсатор C2. * За конденсатором C1 в разрыв фазы ставим тороидальный соленоид L1. * За конденсатором C2 в разрыв нейтрали ставим тороидальный соленоид L2. * За соленоидами между фазой и нейтралью ставим конденсатор C3. <code> P >------/\/\/\/\/--------------* \| L1 \| \| =C1 \| \| \| \| Защищаемая G <---+---< C3= электрическая \| \| сеть =C2 \| \| \| L2 \| \| N <------/\/\/\/\/--------------* </code> Сначала необходимо рассчитать при каких индуктивностях L1 и L2 в фильтре не будет возникать резонанс на частотах 45 - 65 Hz. Необходимо показать вывод всех формул. Для упрощения в конце формулу можно упростить приняв С1=С2=С3=С=100мкФ, L1=L2=L=?мГн. Потом посчитать коэффициент сглаживания при С=100мкФ, L=1мГн для частот 100Hz, 1000Hz,10000Hz,100000Hz,1000000Hz. Вывести табличку и график зависимости коэффициента сглаживания фильтра от частоты сигнала.
	Ответить \| Правка \| Наверх \| Cообщить модератору