Въпреки че изкуственият интелект (ИИ) обещава да революционизира много области, включително образованието, все повече експерти предупреждават за потенциалните му негативни ефекти. Един от най-гласовитите критици на ИИ в образованието е Бенджамин Райли, основател на мозъчния тръст Cognitive Resonance.
В скорошно проучване Райли изтъква, че ИИ инструменти като ChatGPT, въпреки че са впечатляващи със своите възможности за генериране на текст, не притежават истинско разбиране за информацията. Те работят на принципа на статистическото предсказване, което означава, че могат да предоставят неточни или пристрастни отговори.
Опасенията на Райли се фокусират върху следните аспекти:
- Забавяне на процеса на учене: Чрез автоматизиране на голяма част от учебния процес, ИИ може да доведе до пасивност у учениците и да попречи на развитието на критичното мислене.
- Разпространение на невярна информация: ИИ моделите се обучават върху огромни количества данни, които могат да съдържат пристрастия и неточности. Това означава, че генерираната от ИИ информация не винаги е надеждна.
- Загуба на човешкото взаимодействие: Прекомерната зависимост от ИИ може да доведе до намаляване на взаимодействието между учители и ученици, което е от съществено значение за ефективното обучение.
Райли предлага по-предпазлив подход към внедряването на ИИ в образованието. Той подчертава необходимостта от:
- Критично мислене: Учениците трябва да бъдат обучени да оценяват информацията, генерирана от ИИ, и да я проверяват от независими източници.
- Допълнителни инструменти: ИИ може да служи като допълнителен инструмент за учителите, но не трябва да замества традиционните методи на преподаване.
- Човешко взаимодействие: Взаимодействието между учители и ученици е от ключово значение за създаването на стимулираща учебна среда.
Въпреки че ИИ предлага много възможности за образованието, е важно да се осъзнават и потенциалните рискове. Преждевременното и необмислено въвеждане на ИИ в училищата може да има сериозни негативни последици.
Въпроси, които остават отворени:
- Как да се гарантира, че ИИ инструментите се използват по етичен и отговорен начин?
- Как да се подготвим учителите за ефективно използване на ИИ в класната стая?
- Как да балансираме ползите от ИИ с необходимостта от развитие на човешките умения?
Отговорите на тези въпроси ще определят бъдещето на образованието в ерата на изкуствения интелект.
„Какво е най-голямото ви безпокойство относно използването на AI в образованието?
На първо място в списъка ми е използването на [AI инструменти] за обучение на деца. Те абсолютно няма да бъдат ефективни в това и всъщност може да са вредни в това отношение. Вече започваме да получаваме някои емпирични доказателства за това. Някои изследователи от Wharton публикуваха наскоро проучване на рандомизирано контролно изпитване, при което учениците по математика в гимназията, използващи ChatGPT, научиха по-малко от своите връстници, които нямаха достъп до него по време на проучването. Това е напълно предсказуемо, защото това, което инструментът прави, е да автоматизира познанието вместо вас. Фактът, че когато се облягате на него, за да вършите работата си, това означава, че мислите по-малко, което означава, че учите по-малко.“
Don’t Buy the AI Hype, Learning Expert Warns – Education Week
Benjamin Riley, founder and CEO of Cognitive Resonance
link
Генеративният изкуствен интелект може да спести време на преподавателите, да помогне за персонализиране на ученето и потенциално да намали пропуските в постиженията на учениците. Това казват експертите по изкуствен интелект, когато говорят за потенциала на технологията да трансформира образованието.
Но не всички са съгласни. Отворените отговори на проучване на изследователския център EdWeek, проведено през пролетта, показаха, че много преподаватели са скептични към технологията.
Реалността е, че AI има своите граници. Например, може да произведе неточни или пристрастни отговори въз основа на грешни данни, от които черпи. Много области и щати са създали или са в процес на създаване на насоки за това как да се включи AI в образованието, като се има предвид, че това не е перфектен инструмент. Училищният район на Лос Анджелис дори се превърна в предупредителна история за това какво не трябва да се прави при използването на AI за K-12 образование.
Бенджамин Райли, основателят и главен изпълнителен директор на мозъчния тръст Cognitive Resonance , твърди, че училищата не трябва да се поддават на шума само защото технологията съществува. (Преди това Райли беше основател на Deans for Impact, организация с нестопанска цел, работеща за подобряване на обучението на учителите.)
На 7 август Cognitive Resonance публикува първия си доклад, озаглавен „ Опасностите за образованието от генеративния изкуствен интелект “.
В интервю за Education Week Райли обсъди доклада и опасенията си относно използването на ИИ в образованието.
Защо смятате, че не е правилно да се каже, че AI е най-важното технологично развитие в човешката история?
Хубаво е да се върнем към това какво всъщност представлява голям езиков модел . Това е устройство за предсказване. Той взема текст, който въвеждате, и предвижда какъв текст трябва да ви върне. Начинът, по който се прави това, е чисто чрез статистически корелации между асоциации на думи. Това, което е забележително за него като технология, е, че процесът и тази способност, която имаме сега, се чувстват свръхразговорни. Имате чувството, че можете да говорите с него за всичко и в известен смисъл можете. Няма ограничение за набора от неща, които може да ви каже в отговор на текст, който сте поставили в него. Но това е всичко, което може да направи.
Не е мислене. Не е разсъждение. Не е в състояние да разбере, че имате ум, живот и идеи, може да имате погрешни схващания. То не разбира и няма никакъв капацитет да направи нищо от това. Компютърът беше огромна работа. Ще стои ли AI редом с компютъра като развитие в нашето общество? Не знам, но със сигурност не мисля, че в момента сме в момент, в който инструментът, както съществува днес, е дори в разговора за неща като огън или печатарска преса по отношение на социалното въздействие.
Какво е най-голямото ви безпокойство относно използването на AI в образованието?
На първо място в списъка ми е използването на [AI инструменти] за обучение на деца. Те абсолютно няма да бъдат ефективни в това и всъщност може да са вредни в това отношение. Вече започваме да получаваме някои емпирични доказателства за това. Някои изследователи от Wharton публикуваха наскоро проучване на рандомизирано контролно изпитване, при което учениците по математика в гимназията, използващи ChatGPT, научиха по-малко от своите връстници, които нямаха достъп до него по време на проучването. Това е напълно предсказуемо, защото това, което инструментът прави, е да автоматизира познанието вместо вас. Фактът, че когато се облягате на него, за да вършите работата си, това означава, че мислите по-малко, което означава, че учите по-малко.
Едно от нещата, които ме разочароват особено в образователната шумотевица около ИИ в момента, е, че в други измерения започваме да виждаме как технологията има реални вреди върху социалното сближаване и солидарност. Нашата политика е поляризирана. Демокрацията е застрашена в много страни. Всички тези неща според мен са взаимосвързани. Започваме смътно да осъзнаваме това и въпреки това идва инструмент, който просто хвърля още гориво в технологичния огън на обществото. Хората наистина трябва да спрат и да помислят за това. Това, което ме разочарова най-много, е, че хората просто казват: „О, това е неизбежно, така че трябва да се включим“. Абсолютно не е. Можем да правим избори.
Хората казват, че AI е бъдещето, че студентите ще го използват в кариерата си, така че трябва да ги научим как да го използват. Съгласни ли сте с това?
Има няколко начина да мислим за това. Каква част от училищната система в момента е ориентирана да учи децата как да използват компютър? Това наистина ли е нещо, върху което прекарваме много време в нашата образователна система? Бих казал, че не, не го правим. Децата използват ли компютри в училище? да Има ли компютърна лаборатория, до която може да имат достъп? Разбира се. Има ли часове по информатика ? Да, но само малцина ги приемат. Тази технология просто става част от тъканта на нашето съществуване. Нещо, което безспорно е огромно като технологично развитие, което е създаването на компютър, всъщност не е променило много от нашите образователни практики. Така че не съм сигурен защо трябва да приемем, че AI трябва да се третира по различен начин.
Има ли нещо, за което смятате, че училищата могат да използват генеративен AI?
След като разберете ограниченията на генеративния AI, можете да го използвате по начини, които смекчават опасностите и вредите, които могат да възникнат. След като разберете, че това е просто статистическа машина за предсказване на следваща дума, вие не се отнасяте към насоките, които ви дава, като към свещени или към някаква опитна търсачка, която е обмислила дълбоко това, което питате, и се е върнала с най-добрия отговор.
Така един учител казва: „Дайте ми план на урока за този петък, 60 минути по тази тема.“ Все още може да има някои неща в този [отговор], които имат проблеми, но учителят има своята интелигентност. Те имат своето ноу-хау и опит и могат да разгледат този план на урока и след това да решат каква част от него искат да използват или не. това е добре Нямам проблем с това.
Другата област, която знам, че е положителна и има смисъл предвид естеството на технологията, е създаването на материали за изучаващите английски . Това е силната страна на тези модели. Те са езикови модели. Така че, ако това, от което се нуждаете, е превод между езици, те са доста добри в това.
Много експерти призовават за AI грамотност в училищата. Това ли е нещо, което смятате за важно?
Зависи какво имате предвид под AI грамотност . Това, което има много в момента, са усилия, които претендират да са свързани с AI грамотност, които по същество се опитват да ви научат как да използвате инструмента, как да напишете добра подкана. Не това имам предвид под AI грамотност.
Искам хората да бъдат критично мислещи за тази технология. [На] оперативно ниво: как прави това, което прави и защо не можете да му се доверите, че ще каже неща, които ние, хората, бихме сметнали за истина. Има толкова много етични проблеми: екологичните разходи, необходими за производството му, начините, по които възпроизвежда пристрастия, които съществуват в обществото.
Искам да [наблегна] на по-добро разбиране за това как ние, хората, мислим и се учим един от друг, издигайки това и полагайки усилия за насърчаване на AI грамотността.
