Генерація нісенітниці: вчені говорять про крах ШІ чат-ботів - вони вчаться на згенерованому ними ж
Учені довели: є 10 речей, які можна купити і стати щасливішим Іспанія запроваджує "порнопаспорти" Ірина Федишин вперше прокоментувала чутки про третю вагітність: "Ми батькам не розповідали" "Ефективні в умілих руках": Україна знищує ракети системами ППО, від яких відмовились США Не можна просто говорити про припинення вогню, потрібен план, - Зеленський про ініціативу Орбана Тайвань отримує важливі уроки з війни в Україні, - WP Віталій Капранов зізнався, хто винний у смерті його брата-близнюка: "Він би ще пожив" Трохи відстає від Трампа: ЗМІ з'ясували, хто замінить Байдена у разі зняття з виборів У підпалі корабля РФ "Сєрпухов" зізнався росіянин, який перейшов на бік України: деталі РФ передала США проєкт мирного договору з Україною: ЗМІ дізналися основні пункти "Цей день нарешті настав": Ектор Хіменес-Браво натякнув, що вперше стане батьком Україні дозволили бити по Росії, F-16 стануть ще ефективнішими, - BI Зеленський сказав, як змусити Росію закінчити війну вже в цьому році В Україні розслідують незаконний виїзд за кордон родичів київських чиновників Вибори в США: опитування показали, що відрив між Трампом і Байденом різко зріс, - ЗМІ Італійська Тоскана платитиме від 10 тисяч євро тим, хто туди переїде Які продукти та напої збільшують талію: відповідь дієтологів "До кінця": Байден пообіцяв, що не зніматиме свою кандидатуру з виборів, - Reuters Популярна блогерка раптово померла після пластичної операції: що відомо Путін загнав у пастку: The Telegraph назвав "справжню" причину, чому Україну не пускають в НАТО Росія намагається прорватися під Покровськом, але там ситуація унікальна, - Bild Готовий зустрітися: Зеленський закликав Трампа розкрити плани швидкого припинення війни Актрисі Наталці Денисенко різко стало зле під час зйомок: "Вимикаюся" "Почати нове життя": мобілізація ув'язнених набирає обертів, - AP Чи варто здати окуповані території заради вступу в НАТО і ЄС: думка українців

Епоха генеративного ШІ настала: всього через шість місяців після появи на сцені ChatGPT від OpenAI, до половини співробітників деяких провідних світових компаній вже використовують цей тип технології в своїх робочих процесах, а багато інших компаній поспішають запропонувати нові продукти з вбудованим генеративним ШІ.

Але, як відомо тим, хто стежить за галуззю, що розвивається, і основними дослідженнями, дані, що використовуються для навчання великих мовних моделей (LLM) та інших трансформаційних моделей, що лежать в основі таких продуктів, як ChatGPT, Stable Diffusion і Midjourney, спочатку надходять з людських джерел - книг, статей, фотографій і так далі - які були створені без допомоги штучного інтелекту, пише VentureBeat.

Зараз, коли все більше людей використовують ШІ для виробництва і публікації контенту, виникає очевидне питання: що станеться, коли контент, створений ШІ, пошириться по Інтернету, і моделі ШІ почнуть навчатися на ньому, а не контенті, створюваному переважно людиною?

Група дослідників з Великобританії та Канади вивчила саме цю проблему і нещодавно опублікувала статтю про свою роботу в журналі arXiv. Те, що вони виявили, викликає занепокоєння за сучасні технології генеративного ШІ та їхнє майбутнє:

Ми виявили, що використання контенту, створеного на основі моделей, в навчанні викликає незворотні дефекти в одержуваних моделях".