forum.opennet.ru - "Mozilla развивает инструментарий для распознавания речи Whisperfile" (50)

"Mozilla развивает инструментарий для распознавания речи Whisperfile"

Форум Разговоры, обсуждение новостей
Вариант для распечатки		Пред. тема \| След. тема
Изначальное сообщение		[ Отслеживать ]

"Mozilla развивает инструментарий для распознавания речи Whisperfile"	+/–
Сообщение от opennews (??), 23-Авг-24, 13:45
Компания Mozilla развивает инструментарий распознавания речи Whisperfile, включающий независимую высокопроизводительную реализацию модели машинного обучения Whisper, разработанной и открытой организацией OpenAI. Инструментарий создан на основе whisper.cpp, реализации модели Whisper на C/C++, созданной Георгием Гергановым (автор llama.cpp). Код написан на языке С++ и распространяется под лицензией MIT... Подробнее: https://www.opennet.ru/opennews/art.shtml?num=61750
Ответить \| Правка \| Cообщить модератору

Оглавление

По сути никаких нововведений, просто очередной GUI-лаунчер к консольному Whisper, Аноним (1), 13:45 , 23-Авг-24, (1) –6

Это такой GUI на скриншоте , Аноним (2), 14:00 , 23-Авг-24, (2) +9

Новость о том, что развивают, а не что выпустили На скриншоте оригинальная конс, Аноним (1), 16:00 , 23-Авг-24, (19) –1

А что-нибудь лучше julius-speech уже придумали Почему любое эффективное распозн, Аноним (3), 14:00 , 23-Авг-24, (3) +2

А как ещё тебя заставить платить подсписку , anonymmmeer (?), 14:31 , 23-Авг-24, (6)

Через госуслуги , Аноним (7), 14:34 , 23-Авг-24, (7)

Кинь ссылку, где на Госуслугах оплата распознавания речи у дяди на сервере Очен, YetAnotherOnanym (ok), 11:28 , 24-Авг-24, (65) –1

Потому что тратили миллионы на сбор семплов и обучение нейронки на кластере с то, Аноним (21), 16:17 , 23-Авг-24, (21)

Или не миллионы Ещё неизвестно какая там себестоимость, Бывалый Смузихлёб (ok), 09:52 , 24-Авг-24, (62)

с julius-speech не знаком С vosk баловался - https alphacephei com vosk index, userd (ok), 20:24 , 23-Авг-24, (36)
Он поддерживает русский язык В репозитории только японский и английский вроде б, prolabrus (?), 14:36 , 24-Авг-24, (70) +1

Жаль, что у меня нет GPU, иначе я бы протестировал это , Wed (??), 14:34 , 23-Авг-24, (8)

Для этого с виду консольного приложения нужен GPU , Аноним (16), 15:41 , 23-Авг-24, (16)

Ты наверно не знаешь что бывает видеокарты без выидео-выхода, Аноним (50), 22:56 , 23-Авг-24, (50)

Гпу и не нужно, просто скорость медленная будет , Аноним (17), 15:49 , 23-Авг-24, (17)
Родительский проект Whisper cpp спокойно работает на CPU Спокойно в смысле н, Аноним (60), 02:35 , 24-Авг-24, (60) +2

У меня у одного такое, после обновления до 129 0 2 одно ядра CPU уходит в 100 и, Аноним (10), 14:45 , 23-Авг-24, (10) +1

У меня таб зависает и выжирает память пока не будет прибит Замечал, что может б, Аноним (3), 14:51 , 23-Авг-24, (12) +1

Кому вообще пришло в голову вставлять в файл для llm сам движок для её запуска, , Аноним (17), 15:10 , 23-Авг-24, (14) +2

Ясен пень, тому, кому это позарез нужно , Ося Бендер (?), 15:21 , 23-Авг-24, (15) +1
Это, вроде бы, два разных вопроса Прошить веса ллм прямо в файл, вроде бы, не пр, Аноним (18), 15:50 , 23-Авг-24, (18)

Так проблема не в весах, а в том, что они в файл модели вставляют движок для её , Аноним (17), 16:55 , 23-Авг-24, (23)

Вася и в саму модель может встроить малварь https www opennet ru opennews art, Аноним (30), 18:58 , 23-Авг-24, (30)

Для того, чтоб такого не было придумали сейфтенсорс И то, что есть одна уязвимо, Аноним (17), 21:05 , 23-Авг-24, (38)

так в чём проблема пострать пару часов, наклепай эксплойтов, и продай их кому-н, Аноним (27), 18:25 , 23-Авг-24, (27)

Я вам вектор атаки написал сверху - все максимально очевидно Мне же лень этим з, Аноним (17), 21:07 , 23-Авг-24, (39)
А почему ты сам это не сделаешь тебе доллары на нужны Так отдай их мне , Аноним (7), 00:11 , 24-Авг-24, (56)

Это то, что про ИИ нужно знать в первую очередь ИИ выдаёт решения неверные, но , Аноним (25), 18:04 , 23-Авг-24, (25) +1

На практике человек куда меньше верных и тем более точных ответов выдаёт Это хо, Аноним (3), 18:30 , 23-Авг-24, (28) –1

Один AI-апологет мне задвигал, что в странах первого мира всем Universal Basic I, Аноним (29), 18:54 , 23-Авг-24, (29) –1

GPT4 впечатляющая модель Она умнее и догадливее большинства людей в интернете , Аноним (3), 19:25 , 23-Авг-24, (32) –2

Скрыто модератором, Аноним (34), 20:14 , 23-Авг-24, (34)
GPT не может без галлюцинаций Чтобы их не было, нужна концепция, которая не явл, Ногоед (?), 23:32 , 23-Авг-24, (52) +6

При нынешней поведенческой модели человека, основанной на животных инстинктах, а, мшефд (?), 20:52 , 23-Авг-24, (37)

А ты попробуй жить разумом когда большой метеорит упадет на Землю Или закончитс, Аноним (45), 22:16 , 23-Авг-24, (45)

А ведь ты действительно, фактически не имеешь понятия про то, о чём пишешь на пу, Аноним (63), 10:14 , 24-Авг-24, (63)

Но человек знает 100 , что 2х2 будет равно 4 А нынешний псевдо ИИ лишь предпола, Ногоед (?), 23:30 , 23-Авг-24, (51) +5

Потому что в школе так сказали , Аноним (64), 10:47 , 24-Авг-24, (64) –2

А браузер поразвивать Мозилла не желает , Аноним (31), 19:25 , 23-Авг-24, (31) +3

Нет и не будет , Аноним (35), 20:24 , 23-Авг-24, (35)

чтобы вставить его в Firefox и подслушать как пользователи Firefox а матеря, Аноним (49), 22:50 , 23-Авг-24, (49) +1

ФФ со встроенным переводчиком с русского переводит,а обратно нет Не хотят подел, Полиглот (?), 23:40 , 23-Авг-24, (54) +1

говорят, либревульф умеет и на русский, мяв (?), 01:47 , 24-Авг-24, (57) +1

Мозилла продолжает двигать кровати кастрированная субоптимальная программа , Аноним (58), 02:16 , 24-Авг-24, (58) +1

Несколько гигабайт потребляет всего , Аноним (66), 11:31 , 24-Авг-24, (66)

Скрыто модератором, Аноним (75), 18:18 , 24-Авг-24, (75)

Хозяйке на заметку парсер формата GGUF для вороха ЯП https github com kaitai, Аноним (58), 02:17 , 24-Авг-24, (59) +1
Лучше бы занялись добавлением функций, и улучшением дизайна, а то многое вырезал, Nochi (?), 15:23 , 24-Авг-24, (72) –2
Скрыто модератором, Аноним (-), 19:31 , 24-Авг-24, (76) –1
А для немецкого что-то похожее есть , xsignal (ok), 16:05 , 02-Сен-24, (79)

Сообщения [Сортировка по ответам | RSS]

1. Сообщение от Аноним (1), 23-Авг-24, 13:45 –6 +/–

По сути никаких нововведений, просто очередной GUI-лаунчер к консольному Whisper.

Ответить | Правка | Наверх | Cообщить модератору
Ответы: #2

2. Сообщение от Аноним (2), 23-Авг-24, 14:00 +9 +/–

Это такой GUI на скриншоте?

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #1 Ответы: #19

3. Сообщение от Аноним (3), 23-Авг-24, 14:00 +2 +/–

А что-нибудь лучше julius-speech уже придумали? Почему любое эффективное распознавание только на сервере у дяди в 2024 году?

Ответить | Правка | Наверх | Cообщить модератору
Ответы: #6, #21, #36, #70

6. Сообщение от anonymmmeer (?), 23-Авг-24, 14:31 +/–

А как ещё тебя заставить платить подсписку?

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #3 Ответы: #7

7. Сообщение от Аноним (7), 23-Авг-24, 14:34 +/–

Через госуслуги.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #6 Ответы: #65

8. Сообщение от Wed (??), 23-Авг-24, 14:34 +/–

Жаль, что у меня нет GPU, иначе я бы протестировал это.

Ответить | Правка | Наверх | Cообщить модератору
Ответы: #16, #17, #60

10. Сообщение от Аноним (10), 23-Авг-24, 14:45 +1 +/–

У меня у одного такое, после обновления до 129.0.2 одно ядра CPU уходит в 100% и в Firefox начинаются страшные тормоза.  Debian 12.6

Ответить | Правка | Наверх | Cообщить модератору
Ответы: #12

12. Сообщение от Аноним (3), 23-Авг-24, 14:51 +1 +/–

> У меня у одного такое, после обновления до 129.0.2 одно ядра CPU
> уходит в 100% и в Firefox начинаются страшные тормоза.  Debian
> 12.6
У меня таб зависает и выжирает память пока не будет прибит. Замечал, что может быть связано с частичной выгрузкой жирного таба в своп (и возможно vaapi), непонятно только, почему через рандомные периоды случается и ничего не пишет в лог.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #10

14. Сообщение от Аноним (17), 23-Авг-24, 15:10 +2 +/–

Кому вообще пришло в голову вставлять в файл для llm сам движок для её запуска, так ещё и в виде машинного кода? Это звучит как что-то максимально небезопасное, я уверен, что если провести хотя бы пару часов в репозиториях можно будет наклепать эксплоитов, и закинуть их доверчивым любителям переложить написание кода на компьютер. К тому же это всё крутится вокруг хака, позволяющего запускать машинный код без изменения на нескольких платформах (Что как хак, конечно, очень интересно, но, вопрос, кто додумался это использовать как серьёзное решение?)

Ответить | Правка | Наверх | Cообщить модератору
Ответы: #15, #18, #27

15. Сообщение от Ося Бендер (?), 23-Авг-24, 15:21 +1 +/–

Ясен пень, тому, кому это позарез нужно...

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #14

16. Сообщение от Аноним (16), 23-Авг-24, 15:41 +/–

Для этого с виду консольного приложения нужен GPU?

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #8 Ответы: #50

17. Сообщение от Аноним (17), 23-Авг-24, 15:49 +/–

Гпу и не нужно, просто скорость медленная будет.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #8

18. Сообщение от Аноним (18), 23-Авг-24, 15:50 +/–

Это, вроде бы, два разных вопроса.
Прошить веса ллм прямо в файл, вроде бы, не проблема?
То есть, xbm/xpm это и есть Си.
А вот "космополит" это уже другой вопрос.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #14 Ответы: #23

19. Сообщение от Аноним (1), 23-Авг-24, 16:00 –1 +/–

Новость о том, что развивают, а не что выпустили. На скриншоте оригинальная консольная прога.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #2

21. Сообщение от Аноним (21), 23-Авг-24, 16:17 +/–

Потому что тратили миллионы на сбор семплов и обучение нейронки на кластере с топовыми GPU не для того, чтобы отдать тебе бесплатно

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #3 Ответы: #62

23. Сообщение от Аноним (17), 23-Авг-24, 16:55 +/–

>Прошить веса ллм прямо в файл, вроде бы, не проблема?
Так проблема не в весах, а в том, что они в файл модели вставляют движок для её запуска, который уже на этой самой библиотеке и работает, и это всё подаётся под видом простого способа распространять модели. Так вот, проблема в том, что любой вася может просто в когда llama.cpp вставить малварь, это всё собрать, и распространять как обычный файл - и никто ничего не заметит, пока слишком поздно не будет. А про космополита это уже вопрос к стабильности, решение выглядит мягко говоря зыбким.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #18 Ответы: #30

25. Сообщение от Аноним (25), 23-Авг-24, 18:04 +1 +/–

> ... может выводить коэффициенты достоверности, позволяющие ...
Это то, что про ИИ нужно знать в первую очередь: ИИ выдаёт решения неверные, но с низкой вероятностью.
Т.е. это та штука, которую нельзя использовать для точных ответов или точных оценок. Т.к. оно по своей природе не даёт 100% верных ответов.

Ответить | Правка | Наверх | Cообщить модератору
Ответы: #28

27. Сообщение от Аноним (27), 23-Авг-24, 18:25 +/–

> я уверен, что если провести хотя бы пару часов в репозиториях можно будет наклепать эксплоитов
так в чём проблема? пострать пару часов, наклепай эксплойтов, и продай их кому-нибудь за B$$$$$$$. всяко полезнее, чем комменты строчить...

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #14 Ответы: #39, #56

28. Сообщение от Аноним (3), 23-Авг-24, 18:30 –1 +/–

На практике человек куда меньше верных и тем более точных ответов выдаёт. Это хороший инструмент, но важно осознавать его ограничения. Капиталистический подход заменить бесполезных людей ещё более бесполезными нейронками это тупик.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #25 Ответы: #29, #51

29. Сообщение от Аноним (29), 23-Авг-24, 18:54 –1 +/–

Один AI-апологет мне задвигал, что в странах первого мира всем Universal Basic Income будет после полной автоматизации. А, соответственно, отсталые будут ещё больше загнивать и прозябать чем сейчас, с таким-то технологическим отрывом.
Даже жаль, что из генераторов обтекаемых бредотекстов такой революции не вышло. Было бы интересно.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #28 Ответы: #32, #37

30. Сообщение от Аноним (30), 23-Авг-24, 18:58 +/–

Вася и в саму модель может встроить малварь: https://www.opennet.ru/opennews/art.shtml?num=60691

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #23 Ответы: #38

31. Сообщение от Аноним (31), 23-Авг-24, 19:25 +3 +/–

А браузер поразвивать Мозилла не желает?

Ответить | Правка | Наверх | Cообщить модератору
Ответы: #35

32. Сообщение от Аноним (3), 23-Авг-24, 19:25 –2 +/–

GPT4 впечатляющая модель. Она умнее и догадливее большинства людей в интернете. Ограничения достаточно очевидны, но, если избавятся от галлюцинаций как-нибудь, научат сообщать о неспособности выдать приемлемый результат, самостоятельно фильтровать булшит, и будут дообучать в некоторых угольных случаях (таких, как программирование и современные технологии), она вполне сгодится на роль ассистента, значительно повышающего продуктивность работников. Конкуренты, конечно, грязь, и весь интернет заполнен результатами их "трудов".

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #29 Ответы: #34, #52

34. Сообщение от Аноним (34), 23-Авг-24, 20:14 Скрыто ботом-модератором +/–

Какой булшит? ИИ прямо сейчас модерирует комментарии на опеннете. Многие административным путем добиваются такого для продвижения своей политики. Сейчас же вопросы цензуры захватила ИИ и она влияет на умы людей.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #32

35. Сообщение от Аноним (35), 23-Авг-24, 20:24 +/–

Нет и не будет.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #31

36. Сообщение от userd (ok), 23-Авг-24, 20:24 +/–

с julius-speech не знаком. С vosk баловался - https://alphacephei.com/vosk/index.ru
вполне приемлемо работает без сервера "у дяди".

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #3

37. Сообщение от мшефд (?), 23-Авг-24, 20:52 +/–

>в странах первого мира всем Universal Basic Income будет после полной автоматизации.
При нынешней поведенческой модели человека, основанной на животных инстинктах, а не на разуме, человечество проср..т любые блага.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #29 Ответы: #45

38. Сообщение от Аноним (17), 23-Авг-24, 21:05 +/–

Для того, чтоб такого не было придумали сейфтенсорс. И то, что есть одна уязвимость не оправдывает то, что они придумали один огромный вектор атаки. Да и ладно бы вектор, хрен бы с ним, так они ещё это позиционируют как лёгкий способ их распространять и запускать - ну прям самое то, чтоб всякие очень добрые граждане всяким блондинкам вшивали туда малвари.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #30

39. Сообщение от Аноним (17), 23-Авг-24, 21:07 +/–

Я вам вектор атаки написал сверху - все максимально очевидно. Мне же лень этим заниматься, да и вшивать пока туда нечего.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #27

45. Сообщение от Аноним (45), 23-Авг-24, 22:16 +/–

А ты попробуй жить разумом когда большой метеорит упадет на Землю. Или закончится нефть вместе с редкоземельными металлами.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #37 Ответы: #63

49. Сообщение от Аноним (49), 23-Авг-24, 22:50 +1 +/–

>Mozilla развивает инструментарий распознавания речи
... чтобы вставить его в Firefox и подслушать как пользователи Firefox'а  матерят Мозиллу

Ответить | Правка | Наверх | Cообщить модератору
Ответы: #54

50. Сообщение от Аноним (50), 23-Авг-24, 22:56 +/–

Ты наверно не знаешь что бывает видеокарты без выидео-выхода

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #16

51. Сообщение от Ногоед (?), 23-Авг-24, 23:30 +5 +/–

> На практике человек куда меньше верных и тем более точных ответов выдаёт.
Но человек знает 100%, что 2х2 будет равно 4. А нынешний псевдо ИИ лишь предполагает, пусть и с 99.99999999...%. Думаю, вы поняли мысль.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #28 Ответы: #64

52. Сообщение от Ногоед (?), 23-Авг-24, 23:32 +6 +/–

> если избавятся от галлюцинаций как-нибудь
GPT не может без галлюцинаций. Чтобы их не было, нужна концепция, которая не является Generative Pre-Trained Transformers.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #32

54. Сообщение от Полиглот (?), 23-Авг-24, 23:40 +1 +/–

ФФ со встроенным переводчиком с русского переводит,а обратно нет. Не хотят поделиться как факать каждый предмет.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #49 Ответы: #57

56. Сообщение от Аноним (7), 24-Авг-24, 00:11 +/–

А почему ты сам это не сделаешь тебе доллары на нужны? Так отдай их мне.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #27

57. Сообщение от мяв (?), 24-Авг-24, 01:47 +1 +/–

говорят, либревульф умеет и на русский

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #54

58. Сообщение от Аноним (58), 24-Авг-24, 02:16 +1 +/–

Мозилла продолжает двигать кровати ...
кастрированная субоптимальная программа ... для запуска большой языковой модели ... на ворохе платформ из одного бинарника ... через кривые хаки, сносящие нахрен как производительность, так и митигаци уровня ОС... под авторством транса....
Ну молодцы, Мозилла. Вместо нормального браузера какое-то буллшит-бинго. Извини, если мне потребуется whisper, то я его сам скомпилю. Только есть проблема: этот whisper столько оперативы жрёт, что его нигде, кроме топовых железок, крутить нельзя.

Ответить | Правка | Наверх | Cообщить модератору
Ответы: #66

59. Сообщение от Аноним (58), 24-Авг-24, 02:17 +1 +/–

Хозяйке на заметку: парсер формата GGUF для вороха ЯП: https://github.com/kaitai-io/kaitai_struct_formats/pull/698

Ответить | Правка | Наверх | Cообщить модератору

60. Сообщение от Аноним (60), 24-Авг-24, 02:35 +2 +/–

Родительский проект Whisper.cpp спокойно работает на CPU. "Спокойно" в смысле "неспешно", но работает.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #8

62. Сообщение от Бывалый Смузихлёб (ok), 24-Авг-24, 09:52 +/–

Или не миллионы. Ещё неизвестно какая там себестоимость

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #21

63. Сообщение от Аноним (63), 24-Авг-24, 10:14 +/–

А ведь ты действительно, фактически не имеешь понятия про то, о чём пишешь на публичном форуме... Не пиши больше, миру не нужна твоя юношеская наивная дезинформация. И вдогонку вопрос: а в котором часу в море закончится вот прям таки весь уран?

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #45

64. Сообщение от Аноним (64), 24-Авг-24, 10:47 –2 +/–

> Но человек знает 100%, что 2х2 будет равно 4.
Потому что в школе так сказали.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #51

65. Сообщение от YetAnotherOnanym (ok), 24-Авг-24, 11:28 –1 +/–

Кинь ссылку, где на Госуслугах оплата распознавания речи у дяди на сервере. Очень нужно, срочно.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #7

66. Сообщение от Аноним (66), 24-Авг-24, 11:31 +/–

Несколько гигабайт потребляет всего.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #58 Ответы: #75

70. Сообщение от prolabrus (?), 24-Авг-24, 14:36 +1 +/–

Он поддерживает русский язык? В репозитории только японский и английский вроде бы

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #3

72. Сообщение от Nochi (?), 24-Авг-24, 15:23 –2 +/–

Лучше бы занялись добавлением функций, и улучшением дизайна, а то многое вырезали с браузера..

Ответить | Правка | Наверх | Cообщить модератору

75. Сообщение от Аноним (75), 24-Авг-24, 18:18 Скрыто ботом-модератором +/–

Для линукса с его 12309 даже несколько мегабайт - это много. Если, конечно, у вас машина не с десятками гигов. Но память - на то она и память, чтобы всегда быть золотой.

Ответить | Правка | Наверх | Cообщить модератору
Родитель: #66

76. Сообщение от Аноним (-), 24-Авг-24, 19:31 Скрыто ботом-модератором –1 +/–

Быдло фсбшное в своем поносе захлебывается. телеграмма че мало вам?

Ответить | Правка | Наверх | Cообщить модератору

79. Сообщение от xsignal (ok), 02-Сен-24, 16:05 +/–

А для немецкого что-то похожее есть?

Ответить | Правка | Наверх | Cообщить модератору

Архив | Удалить

Рекомендовать для помещения в FAQ | Индекс форумов | Темы | Пред. тема | След. тема

Партнёры:

Хостинг:

Закладки на сайте
Проследить за страницей

Created 1996-2025 by Maxim Chirkov
Добавить, Поддержать, Вебмастеру

1. Сообщение от Аноним (1), 23-Авг-24, 13:45	–6 +/–
По сути никаких нововведений, просто очередной GUI-лаунчер к консольному Whisper.
Ответить \| Правка \| Наверх \| Cообщить модератору
Ответы: #2

2. Сообщение от Аноним (2), 23-Авг-24, 14:00	+9 +/–
Это такой GUI на скриншоте?
Ответить \| Правка \| Наверх \| Cообщить модератору
Родитель: #1 Ответы: #19

3. Сообщение от Аноним (3), 23-Авг-24, 14:00	+2 +/–
А что-нибудь лучше julius-speech уже придумали? Почему любое эффективное распознавание только на сервере у дяди в 2024 году?
Ответить \| Правка \| Наверх \| Cообщить модератору
Ответы: #6, #21, #36, #70

6. Сообщение от anonymmmeer (?), 23-Авг-24, 14:31	+/–
А как ещё тебя заставить платить подсписку?
Ответить \| Правка \| Наверх \| Cообщить модератору
Родитель: #3 Ответы: #7

7. Сообщение от Аноним (7), 23-Авг-24, 14:34	+/–
Через госуслуги.
Ответить \| Правка \| Наверх \| Cообщить модератору
Родитель: #6 Ответы: #65

8. Сообщение от Wed (??), 23-Авг-24, 14:34	+/–
Жаль, что у меня нет GPU, иначе я бы протестировал это.
Ответить \| Правка \| Наверх \| Cообщить модератору
Ответы: #16, #17, #60

10. Сообщение от Аноним (10), 23-Авг-24, 14:45	+1 +/–
У меня у одного такое, после обновления до 129.0.2 одно ядра CPU уходит в 100% и в Firefox начинаются страшные тормоза. Debian 12.6
Ответить \| Правка \| Наверх \| Cообщить модератору
Ответы: #12

12. Сообщение от Аноним (3), 23-Авг-24, 14:51	+1 +/–
> У меня у одного такое, после обновления до 129.0.2 одно ядра CPU > уходит в 100% и в Firefox начинаются страшные тормоза. Debian > 12.6 У меня таб зависает и выжирает память пока не будет прибит. Замечал, что может быть связано с частичной выгрузкой жирного таба в своп (и возможно vaapi), непонятно только, почему через рандомные периоды случается и ничего не пишет в лог.
Ответить \| Правка \| Наверх \| Cообщить модератору
Родитель: #10

14. Сообщение от Аноним (17), 23-Авг-24, 15:10	+2 +/–
Кому вообще пришло в голову вставлять в файл для llm сам движок для её запуска, так ещё и в виде машинного кода? Это звучит как что-то максимально небезопасное, я уверен, что если провести хотя бы пару часов в репозиториях можно будет наклепать эксплоитов, и закинуть их доверчивым любителям переложить написание кода на компьютер. К тому же это всё крутится вокруг хака, позволяющего запускать машинный код без изменения на нескольких платформах (Что как хак, конечно, очень интересно, но, вопрос, кто додумался это использовать как серьёзное решение?)
Ответить \| Правка \| Наверх \| Cообщить модератору
Ответы: #15, #18, #27

15. Сообщение от Ося Бендер (?), 23-Авг-24, 15:21	+1 +/–
Ясен пень, тому, кому это позарез нужно...
Ответить \| Правка \| Наверх \| Cообщить модератору
Родитель: #14

16. Сообщение от Аноним (16), 23-Авг-24, 15:41	+/–
Для этого с виду консольного приложения нужен GPU?
Ответить \| Правка \| Наверх \| Cообщить модератору
Родитель: #8 Ответы: #50

17. Сообщение от Аноним (17), 23-Авг-24, 15:49	+/–
Гпу и не нужно, просто скорость медленная будет.
Ответить \| Правка \| Наверх \| Cообщить модератору
Родитель: #8

18. Сообщение от Аноним (18), 23-Авг-24, 15:50	+/–
Это, вроде бы, два разных вопроса. Прошить веса ллм прямо в файл, вроде бы, не проблема? То есть, xbm/xpm это и есть Си. А вот "космополит" это уже другой вопрос.
Ответить \| Правка \| Наверх \| Cообщить модератору
Родитель: #14 Ответы: #23

19. Сообщение от Аноним (1), 23-Авг-24, 16:00	–1 +/–
Новость о том, что развивают, а не что выпустили. На скриншоте оригинальная консольная прога.
Ответить \| Правка \| Наверх \| Cообщить модератору
Родитель: #2

21. Сообщение от Аноним (21), 23-Авг-24, 16:17	+/–
Потому что тратили миллионы на сбор семплов и обучение нейронки на кластере с топовыми GPU не для того, чтобы отдать тебе бесплатно
Ответить \| Правка \| Наверх \| Cообщить модератору
Родитель: #3 Ответы: #62

23. Сообщение от Аноним (17), 23-Авг-24, 16:55	+/–
>Прошить веса ллм прямо в файл, вроде бы, не проблема? Так проблема не в весах, а в том, что они в файл модели вставляют движок для её запуска, который уже на этой самой библиотеке и работает, и это всё подаётся под видом простого способа распространять модели. Так вот, проблема в том, что любой вася может просто в когда llama.cpp вставить малварь, это всё собрать, и распространять как обычный файл - и никто ничего не заметит, пока слишком поздно не будет. А про космополита это уже вопрос к стабильности, решение выглядит мягко говоря зыбким.
Ответить \| Правка \| Наверх \| Cообщить модератору
Родитель: #18 Ответы: #30

25. Сообщение от Аноним (25), 23-Авг-24, 18:04	+1 +/–
> ... может выводить коэффициенты достоверности, позволяющие ... Это то, что про ИИ нужно знать в первую очередь: ИИ выдаёт решения неверные, но с низкой вероятностью. Т.е. это та штука, которую нельзя использовать для точных ответов или точных оценок. Т.к. оно по своей природе не даёт 100% верных ответов.
Ответить \| Правка \| Наверх \| Cообщить модератору
Ответы: #28

27. Сообщение от Аноним (27), 23-Авг-24, 18:25	+/–
> я уверен, что если провести хотя бы пару часов в репозиториях можно будет наклепать эксплоитов так в чём проблема? пострать пару часов, наклепай эксплойтов, и продай их кому-нибудь за B$$$$$$$. всяко полезнее, чем комменты строчить...
Ответить \| Правка \| Наверх \| Cообщить модератору
Родитель: #14 Ответы: #39, #56

28. Сообщение от Аноним (3), 23-Авг-24, 18:30	–1 +/–
На практике человек куда меньше верных и тем более точных ответов выдаёт. Это хороший инструмент, но важно осознавать его ограничения. Капиталистический подход заменить бесполезных людей ещё более бесполезными нейронками это тупик.
Ответить \| Правка \| Наверх \| Cообщить модератору
Родитель: #25 Ответы: #29, #51

29. Сообщение от Аноним (29), 23-Авг-24, 18:54	–1 +/–
Один AI-апологет мне задвигал, что в странах первого мира всем Universal Basic Income будет после полной автоматизации. А, соответственно, отсталые будут ещё больше загнивать и прозябать чем сейчас, с таким-то технологическим отрывом. Даже жаль, что из генераторов обтекаемых бредотекстов такой революции не вышло. Было бы интересно.
Ответить \| Правка \| Наверх \| Cообщить модератору
Родитель: #28 Ответы: #32, #37

30. Сообщение от Аноним (30), 23-Авг-24, 18:58	+/–
Вася и в саму модель может встроить малварь: https://www.opennet.ru/opennews/art.shtml?num=60691
Ответить \| Правка \| Наверх \| Cообщить модератору
Родитель: #23 Ответы: #38

31. Сообщение от Аноним (31), 23-Авг-24, 19:25	+3 +/–
А браузер поразвивать Мозилла не желает?
Ответить \| Правка \| Наверх \| Cообщить модератору
Ответы: #35

32. Сообщение от Аноним (3), 23-Авг-24, 19:25	–2 +/–
GPT4 впечатляющая модель. Она умнее и догадливее большинства людей в интернете. Ограничения достаточно очевидны, но, если избавятся от галлюцинаций как-нибудь, научат сообщать о неспособности выдать приемлемый результат, самостоятельно фильтровать булшит, и будут дообучать в некоторых угольных случаях (таких, как программирование и современные технологии), она вполне сгодится на роль ассистента, значительно повышающего продуктивность работников. Конкуренты, конечно, грязь, и весь интернет заполнен результатами их "трудов".
Ответить \| Правка \| Наверх \| Cообщить модератору
Родитель: #29 Ответы: #34, #52

34. Сообщение от Аноним (34), 23-Авг-24, 20:14 Скрыто ботом-модератором	+/–
Какой булшит? ИИ прямо сейчас модерирует комментарии на опеннете. Многие административным путем добиваются такого для продвижения своей политики. Сейчас же вопросы цензуры захватила ИИ и она влияет на умы людей.
Ответить \| Правка \| Наверх \| Cообщить модератору
Родитель: #32

35. Сообщение от Аноним (35), 23-Авг-24, 20:24	+/–
Нет и не будет.
Ответить \| Правка \| Наверх \| Cообщить модератору
Родитель: #31

36. Сообщение от userd (ok), 23-Авг-24, 20:24	+/–
с julius-speech не знаком. С vosk баловался - https://alphacephei.com/vosk/index.ru вполне приемлемо работает без сервера "у дяди".
Ответить \| Правка \| Наверх \| Cообщить модератору
Родитель: #3

37. Сообщение от мшефд (?), 23-Авг-24, 20:52	+/–
>в странах первого мира всем Universal Basic Income будет после полной автоматизации. При нынешней поведенческой модели человека, основанной на животных инстинктах, а не на разуме, человечество проср..т любые блага.
Ответить \| Правка \| Наверх \| Cообщить модератору
Родитель: #29 Ответы: #45

38. Сообщение от Аноним (17), 23-Авг-24, 21:05	+/–
Для того, чтоб такого не было придумали сейфтенсорс. И то, что есть одна уязвимость не оправдывает то, что они придумали один огромный вектор атаки. Да и ладно бы вектор, хрен бы с ним, так они ещё это позиционируют как лёгкий способ их распространять и запускать - ну прям самое то, чтоб всякие очень добрые граждане всяким блондинкам вшивали туда малвари.
Ответить \| Правка \| Наверх \| Cообщить модератору
Родитель: #30

39. Сообщение от Аноним (17), 23-Авг-24, 21:07	+/–
Я вам вектор атаки написал сверху - все максимально очевидно. Мне же лень этим заниматься, да и вшивать пока туда нечего.
Ответить \| Правка \| Наверх \| Cообщить модератору
Родитель: #27

45. Сообщение от Аноним (45), 23-Авг-24, 22:16	+/–
А ты попробуй жить разумом когда большой метеорит упадет на Землю. Или закончится нефть вместе с редкоземельными металлами.
Ответить \| Правка \| Наверх \| Cообщить модератору
Родитель: #37 Ответы: #63