COPE швидко відреагував на поширення практики використання штучного інтелекту в наукових публікаціях і видав заяву, що інструменти типу ChatGPT або Large Language Models, не можна вказувати як автора статті, а автори повинні чітко та прозоро повідомляти (в матеріалах та методах), які інструменти і як саме вони використовували в процесі написання роботи.
Словом, усім тим, хто щиро дбає про якість освіти та науки в Україні, слід швидко збирати вчені ради, редакційні колегії, комітети з академічної доброчесності… і вносити зміни у правила та процедури. Усі решта можуть не поспішати, а-ля поки МОН не скаже. У такому випадку ви маєте у запасі десь приблизно 10-15 років.
Спробуймо згенерувати псевдонауковий текст, щоб пересвідчитися в серйозності проблеми. Переходжу в Scopus, шукаю свіжі статті українською мовою, а щоб пустомелі не розповідали, що ChatGPT загрожує лише гуманітаріям, навмисно оберу статтю природничників.
Відкриваю ChatGPT і прошу нейромережу згенерувати мені щось подібне: Напиши круту назву для наукової статті та абстракт на тему характеристики ферімагнетика і температури компенсації спінів в моделі Блум–Капеля.
Через кілька секунд ChatGPT мені відповідає:
Назва: "Дослідження характеристик феромагнетика та температури компенсації спінів у моделі Блум-Капеля"
Абстракт: У цій науковій роботі ми розглядаємо модель Блум-Капеля, яка є важливим інструментом для дослідження магнітних властивостей різноманітних матеріалів. Ми досліджуємо характеристики феромагнетика, зокрема, магнітний момент та магнітну енергію, які залежать від температури. Особлива увага приділяється температурі компенсації спінів, яка визначається як температура, при якій магнітний момент зникає. Ми проводимо числові розрахунки для різних значень температури та параметрів моделі, і встановлюємо залежності між величинами. Наші результати можуть бути корисні для розуміння поведінки магнітних матеріалів та розробки нових технологій в області магнітної електроніки.
І як вам?! Звісно результат можна значно покращити, замаскувати… зараз я хотів лише показати, що на виявлення та доведення, що це нейромережева маячня білковим рецензентам доведеться витрачати багато зусиль та часу.
Якщо хтось з читачів проґавив розвиток штучного інтелекту, дещо очманів від ChatGPT і зараз щиро дивується, а-ля “А в чому проблема?”, то пам'ятайте – машина не мислить. Наприклад, за допомогою ChatGPT можна згенерувати безглуздий перелік препаратів для лікування якоїсь хвороби – ви дасте такі ліки своїй дитині?
Як вберегти себе і своїх рідних від таких “переліків ліків” у наукових журналах? Від безглуздих інженерних рішень, вигаданих психологічних експериментів, економічних небилиць, хибного пояснення фізичної будови світу, облудної системи цінностей?.. = Рецензування, яке проводить фахівець, який мислить і здатний зрозуміти, чи в рукописі представлені результати дослідження, чи згенеровані нейромережею абзаци порожніх слів.
От тільки мислити – це важко, довго, дорого… це потребує постійної практики та зусиль. Тому, я невпевнений чи такі дорогі розумні люди ще потрібні в наших університетах, інститутах і Ko? Можливо, керівникам наших установ достатньо буде ChatGPT.
Машина не мислить — це фраза, яка нічого не пояснює. ChatGPT можна навчати на різних вхідних даних. Якщо вони хибні, то й відповіді будуть хибні. Точно так само можна навчати людину. Її можна навчити хибним речам, які вона буде відтворювати. В голові в людини теж є нейромережа. Щоправда вона, мабуть, поки що більша й потужніша за ту, яку використовує ChatGPT. Але якщо ви вважаєте, що нейромережа не може мислити, то ви теж не можете...
ВідповістиВидалитиПогоджуюся, я неправильно написав. Звісно ШІ мислить, подібно як і людина, якщо ми розуміємо під цим певні внутрішні дії, що скеровані на розв'язання конкретних проблем. У дописі я маю на увазі, що редактор, рецензент… мають певне перцептивне бачення світу, що дозволяє їм розпізнавати роботу ШІ, навіть якщо з кореляцією в тексті все гаразд.
ВидалитиІ в чому проблема? Чим ChatGPT відрізняється від послуг копірайтера, або редактора?
ВідповістиВидалитиМожливо вже варто зрозуміти, що 95% гуманітарних статей - нікому не потрібна фігня? Замість того, щоб концентрувати свої зусилля на пошуку наявності новизни та релевантності даних, ви всі хайпите на тому, що "о боже, та він генерує текст".
Мені дуже подобаються слова Марти Нуссбаум про те, що з гуманітарними науками пов'язані такі людські здібності як здатність до критичного мислення, здатність поглянути навколо себе очима "громадянина світу", здатність співчувати, а гуманітарна освіта дуже важлива для підтримки здорової демократії. Часто сама критика є важливою складовою гумдослідження, необов'язково нові факти. Науки, що описують рух крилатих ракет важливі, але не варто недооцінювати науки, що стримують людей запускати ці ракети, або не дають суспільствам перетворитися на диктатури.
ВидалитиЦе ви зараз про який світ написали? Де, кого й коли в нашому світі гуманітарні науки від чогось такого стримали?
ВидалитиЯ переконаний, що, наприклад, ці багатотисячні мітинги торік у лютому на підтримку України у багатьох містах Європи - це результат хорошої гуманітарної освіти європейців. До речі, зараз мами українських школярів, що перебувають у ЄС, розповідають, що музика, етика, політика, журналістика... викладають у школах не як наше "Людина і світ". І водночас тваринна реакція на війну орків та ябать - це так само наслідки браку освіти, замість гуманітаристики - ідеологія, постправда, інфляція людських цінностей.
ВидалитиТак можна все, що завгодно пояснити:
ВидалитиЯ переконаний, що мітинґи в Європі — це результат хорошої волі божої.
А реакція орків — це прояв Сатани.
Я переконаний, що мітинґи в Європі — це результат хорошої роботи аґентів планети Нібіру.
А реакція орків — це результат підривної діяльности тау‐китян. Або навпаки.
А ще може бути навпаки — підтримка європейцями свободи й гідности призводить до того, що вони мають хорошу гуманітарну освіту, тоді як орки, що підтримують чобіт своїм лицем, мають замість гуманітарної освіти пропаґанду величі та непереможности Оркостану.
ШІ згенерує і більше пояснень, а я от ірраціональний)
ВидалитиҐенерувати ірраціональні коментарі для ШІ ще простіше.
ВидалитиЗнов таки не зрозуміло, а як МОН повинен на це реагувати? МОН не реагує на наявність плагіату в статях його керівників. Вже не кажучи про те, що процедури COPE не дієві в Україні. Це я до того, що не варто очікувати від них зрушень у цьому напрямку, особливо на фоні "геніальних" ідей по реформі вищио освіти. Крім цього, наявність таких ШІ дійсно ставить під питання цінність гуманітарних статей як таких. У нас як працює освіта? Написав кандидатську, у керівника за плату/без плати домовився за довідки про впровадження. Навіть якщо робота дійсно хороша, то ідеї звідти можуть впровадити без визнання автора.
ВидалитиТільки Nature вже місяцями про новий академічний світ з ChatGPT все пише і пише... мони-нани якось могли б здогадатись, що галас не просто так. Зрушень не чекаю, тому й написав у дописі про 10-15 років) А от чому ChatGPT заперечує цінність саме гуманітарних статей?? Навпаки ШІ важче використовувати методи досліджень гумнаук, аніж природничих.
ВидалитиChatGPT у 100 разів логічніший аніж всі наші проректори, тому я точно знатиму, що написала машина, а що проректор. Якщо серйозно, то у нас тільки з аспірантами технічних спеціальностей є певні нюанси, але й вони попадуться мені на гачок якщо надумають шахраювати з чатом.
ВідповістиВидалитиДобре, якщо 1,5K наших редакцій також володіють такими демаскувальними навичками.
ВидалитиЯкщо ChatGPT виконує роботу з написання краще, ніж проректори, я роблю висновок, що цю роботу проректорам виконувати не потрібно. А який висновок робите ви?
ВидалитиНе всі хочуть цим володіти – легше редпортфель зібрати. Згенерував тексти українською, чи навіть англійською мовою, вставив прізвища ректорів та деканів і випустив новий номер вісника. Наприкінці року прозвітував у МОН, що наука в університеті цвіте і пахне. Для лінивих аспірантів – генерувати статті за окрему плату. Ще якусь додаткову копійку заробиш. Словом я нас усіх вітаю – дякуючи OpenAI ми сьогодні перемогли плагіат в Україні! Чиновникам – премії, усім решта – дипломи! П.с. От Sandy, ви коментарем вище запитуєте про світ – проректорам у США може й не потрібно, а у наших така робота, гра в науку називається.
ВидалитиГра в науку потрібна не проректорам, а українському народу, який її фінансує. І я саме те й мав на увазі, про що ви написали. Тепер замість людей в цю гру гратиме ChatGPT. І він це робитиме краще. Не бачу ніяких проблем!
ВидалитиЯ також не бачу ніяких проблем! Це pan.bibliotekar панікує, напевно начитався шкідливих ліберальних ідей. Як любила колись повторювати моя вчителька з історії – вам тут не Європа!
ВидалитиУкраїнському народу потрібне щастя, а для цього нам потрібна хороша освіта, наука, культура. Речі про які ви пишете - це прояви корупції та кумівства, проте у страшенно нерівному суспільстві нещасні усі, тому вірю, що незабаром, після перемоги, освіта зробить багатих і бідних значно щасливішими.
ВидалитиЩастя всім потрібно. Також відомо, що хороша освіта, так само як і все инше, не сумісна з кумівством і корупцією. І тут усе впирається в пріоритети. Що більше потрібно для щастя: хороша освіта, чи куплений диплом? Які пріоритети в українців, я думаю, очевидно.
ВидалитиБо в багатьох українців кепська освіта, от вони й думають, що купівля дипломів принесе щастя, а натомість це приносить горе. Можливо коли помре останній совок... наша освіта нарешті зрушить і ми швидко наздоженемо розвинуті країни.
ВидалитиКоли помре останній совок будемо чекати, коли помре останній з вихованих совками.
ВидалитиА чи не можна якийсь указ Президента, щоб очільником МОН призначити ChatGPT? За інших, щонайменше, рівних умов, ми, принаймні, не матимемо міністра-плагіатора )
ВідповістиВидалитиP.S. Цей текст згенерував не ШІ.
Потрібно відразу цілити вище - як мінімум, ШІ в очільники НАЗК, НАБУ... тоді цей склад МОНу (і не тільки) сам відразу розбіжиться.
ВидалитиПитання не про мислення AI, а про ВІДПОВІДАЛЬНІСТЬ! Яка відповідальність у редакцій наших журналів (переважної більшості)? Все для задоволення хворих амбіцій якогось дрібного начальства, науковий Пшонка-стайл. Себто якщо ви вірите інформації у наших журналах - то ви ще дурніший за тих, хто вірить порадам робота.
ВідповістиВидалитиВи праві, COPE також пише, що AI ... cannot take responsibility for the submitted work.
ВидалитиА ще дивує чому ніхто не пише про Чат і паперові фабрики. В Україні така діяльність і до цього була дуже прибутковою, а нині більше непотрібно витрачатися на, як Ви пишете, білкових авторів текстів, себто собівартість, якщо можна так сказати, цієї "продукції" прямує до 0, а охочих потрапити в Скопус у нас хоч греблю гати.
ВідповістиВидалитиА й справді - домовився про спецвипуск з якимсь чудом в Scopus і публікуй, що хочеш... а потім редакція навіть може плакатись, що постраждала від ChatGPT) Цікаво як Scopus та WoS реагуватиме на такі випадки...
ВидалитиРеагувати на що? На те, що середня якість робіт у тих журналах підвищиться завдяки ChatGPT?
ВидалитиРеагувати на порушення етики. Чи введуть, наприклад, новий тип редакційних порушень типу "AI detected" і через це припинятимуть індексування спійманих журналів?
ВидалитиУ чому саме ви вбачаєте порушення етики? У тому, що ШІ не вказано в числі соавторів?
ВидалитиКоли текст, що згенерований ШІ, видано за результати оригінального (та відтворюваного) дослідження автора(ів).
ВидалитиТекст — це лише текст, а не дослідження. Инша справа, якщо все дослідження — це порожній текст. Але тут ми повертаємося до иншого питання, нахіба потрібні такі дослідження — незаложно від того, хто їх ґенерує, ШІ чи ПІ?
ВидалитиСправедливо. Мабуть, і контент менеджери рецензованих баз не вводитимуть нову причину припинення індексування журналів, а обмежаться звичним "падінням якості контенту", без зайвих згадок ШІ.
Видалити