| Если ввести в Google Images запрос «культурное наследие Австралии», то в числе первых результатов вы увидите фотографию гигантских резных каменных голов, возвышающихся над красной пустыней. Они выглядят древними и настоящими. Но это изображение создано с помощью генеративного искусственного интеллекта (GenAI) и никогда не существовало в реальности. Оно распространяется в интернете как подлинный исторический артефакт из Австралии. |
| |
| Хотя GenAI — технология, лежащая в основе чат-ботов и генераторов изображений, — может расширить доступ к знаниям, она также способна популяризировать ложные исторические факты и вырывать знания коренных народов из контекста. |
| |
| Это может подорвать доверие как к научным экспертам, так и к авторитету коренных народов. |
| |
| Мы, исследователи, все больше обеспокоены тем, что эти системы без согласия правообладателей копируют и повторно используют культурную и интеллектуальную собственность коренных народов (КИСКН). |
| |
| Как же бороться с дезинформацией и при этом сохранять открытый доступ к подлинным научным знаниям? И от чего мы отказываемся, когда открыто делимся этими знаниями, а ИИ присваивает их себе? |
| |
 |
| |
| Что такое псевдонаука? |
| |
| Археология давно привлекает внимание маргинальных теорий и псевдонаучных утверждений. |
| |
| Псевдонаука выдает себя за науку, но при этом не использует строгие методы и надежные доказательства, на которых строится научная деятельность. |
| |
| Настоящая наука развивается, исправляя свои ошибки. По мере накопления фактов слабые идеи отбрасываются, а опровергнутые теории уходят на второй план. |
| |
| Археология тоже порождает маргинальные теории всякий раз, когда новые открытия опровергают старые интерпретации. Но некоторые идеи упорно сохраняются. |
| |
| Так называемые «затерянные континенты» Му и Лемурия не имеют под собой никаких научных оснований, но миф о таинственных высокоразвитых цивилизациях, ушедших под воду в Тихом океане, продолжает распространяться и по сей день. |
| |
| Однако псевдонаука редко бывает безобидной чепухой. В худшем своем проявлении она используется для определения того, кого можно считать полноценным человеком. |
| |
| Такие доктрины, как евгеника и социальный дарвинизм, претендовали на научную легитимность, оправдывая при этом систематическую дегуманизацию. Многие современные псевдоархеологические теории опираются на те же интеллектуальные традиции. |
| Почему маргинальные идеи распространяются и почему это важно |
| |
| Маргинальные теории обещают нам скрытые истины, тайны и откровения, в то время как тщательные археологические исследования, как правило, требуют больше времени и усилий. |
| |
| Истории о затерянных цивилизациях или древних пришельцах обычно оказываются более привлекательными для развлечения, чем интерпретации, основанные на фактах. |
| |
| Последствия могут быть весьма серьезными. |
| |
| Маргинальные теории подрывают доверие общества к науке и экспертным знаниям, о чем свидетельствует непрекращающееся движение за теорию плоской Земли. |
| |
| Псевдоархеология уже давно принижает значение истории коренных народов. Некоторые из самых удивительных памятников, когда-либо воздвигнутых человеком, приписываются кому угодно, но только не коренным народам, которые их создали. |
| |
| Моаи на Рапа-Нуи — огромные каменные изваяния, вырезанные и установленные на своих местах полинезийскими островитянами, — в книгах-бестселлерах, а теперь и в «исторических» материалах, сгенерированных искусственным интеллектом, приписываются древним пришельцам и исчезнувшим цивилизациям. |
| |
| Нан-Мадол, город из базальтовых блоков, возведенный на искусственных островках в Микронезии, приписывается исчезнувшей «сверхрасе», а не народу сауделер, который его построил. |
| |
| В Кимберли, Западная Австралия, некоторые считают, что изысканные наскальные рисунки Гвион-Гвион — дело рук таинственного инопланетного народа, а не предков-аборигенов, чьи потомки до сих пор ухаживают за ними. То же самое можно сказать и о петроглифах Новой Каледонии. |
| |
| Каждая из этих ложных теорий отрывает современные общины от их исконного наследия и подпитывает расистские представления о возможностях коренных народов. |
| |
| Большинство систем генеративного ИИ обучаются на данных из открытого интернета, где процветают дезинформация и маргинальные теории. |
| |
| В отличие от исследователей, эти системы не взвешивают доказательства и не проверяют утверждения. Они предсказывают следующее правдоподобное слово на основе шаблонов в своих обучающих данных, что означает, что они могут с полной уверенностью воспроизвести что-то неверное. |
| |
| Точность - это только половина проблемы. |
| |
| GenAI работает масштабно, сводя огромные объемы информации к статистическим моделям. Знания коренных народов работают в обратном направлении. Они локальны, основаны на конкретных местах и привязаны к конкретной стране и сообществам. |
| |
| Эти качества придают знаниям коренных народов силу, но крупномасштабные системы искусственного интеллекта сводят их на нет. |
| |
| Модель может использовать знания коренных народов в качестве учебных данных без согласия, без подтверждения, без компенсации и без контроля сообщества над тем, как они будут использоваться в дальнейшем. |
| |
| Наше недавнее исследование показало, что ИИ часто может отличить научный консенсус и консенсус коренных народов от избитых маргинальных рассказов. Но эта способность основывается, в первую очередь, на обучающих данных, собранных или воспроизведенных без разрешения сообщества. |
| Противодействие |
| |
| Борьба с дезинформацией означает привлечение общественности, но если серьезные исследования недоступны, пробелы заполняются второстепенными историями. |
| |
| Эти рассказы затем используются в качестве базы данных для обучения ИИ следующего поколения. |
| |
| Знания коренных народов выходят далеко за рамки историй и культурного самовыражения и включают в себя экологические записи, знания о ландшафтах и данные, накопленные за многие поколения взаимоотношений со страной. |
| |
| Знания коренных народов — это не инертная и не бесхозная информация, которую можно просто взять и использовать. Они взаимосвязаны, привязаны к конкретной местности и регулируются протоколами. |
| |
| Многие исследователи в Австралии и странах Тихоокеанского региона десятилетиями выстраивали доверительные отношения с общинами аборигенов, жителей островов Торресова пролива и жителей островов Тихого океана. Сейчас эти общины сами используют искусственный интеллект для возрождения языков и проведения исследований, требующих доступа к культурным архивам. |
| |
| Когда общины дают согласие на публикацию, они сами решают, на каких условиях будут обнародовать свои знания. Но они не давали согласия на то, чтобы машина вырывала их из контекста и искажала. |
| |
| Исследовательское сообщество может предпринять ряд практических шагов. |
| |
| Научные журналы и репозитории должны требовать подтверждения согласия общины перед публикацией данных о коренных народах и проверять существующие коллекции на соответствие критериям признания интеллектуальной собственности коренных народов. Университеты и финансирующие организации должны учитывать эти критерии при планировании исследований, проведении этической экспертизы и рецензировании. |
| |
| Прежде всего, общины коренных народов должны иметь право решать, как интерпретировать и повторно использовать их знания. Это подразумевает настоящее партнёрство, а не формальные консультации. |
| Опыт и понимание |
| |
| Несмотря на стремительное развитие, генеративный искусственный интеллект не заменил экспертные знания. |
| |
| Старейшину, традиционного владельца земли, хранителя знаний или учёного можно усомниться в словах, оспорить их и призвать к ответу. |
| |
| Их знания основаны на жизненном опыте, длительных отношениях и чувстве ответственности. Чат-бот не обладает ни одним из этих качеств. |
| |
| Настоящие эксперты, в том числе сама Страна, являются частью жизни и системы знаний, из которых на самом деле рождается понимание. |
| |
Источник
Аномальные новости со всего мира: https://ufonews.su/news149/444.htm |