Школьники поняли, что их тесты проверяет искусственный интеллект – и обманули его, получив высший балл

На платформе Edgenuity можно найти множество курсов. Фото edgenuity.com

Сейчас многие школы перешли на онлайн-обучение. И часть работы перекладывают на виртуальные образовательные платформы. На этих платформах можно проходить курсы по всем школьным предметам, а также сдавать тесты и домашние задания. Вот только проверяет эти тесты искусственный интеллект, который, как оказалось, очень легко обмануть и получить высокий балл. 

Так поступил Лазарь Симмонс из Лос-Анджелеса. Его школа сейчас полностью на онлайн-обучении, и в последнее время оценки Лазаря оставляли желать лучшего. За один из тестов он получил 50 баллов из 100, и, чтобы компенсировать такой плохой результат, теперь обязан получить за все остальные тесты высшую оценку. Сделать это крайне сложно. Так ему казалось. 

Когда мать Лазаря, Дана, стала расспрашивать, почему он так плохо сдал тест, в глубине души она понимала, что школьные оценки зависят от многих факторов. В том числе и от настроения учителя, который может просто снизить балл по своему желанию. Но Лазарь рассказал, что получил результат сразу же после сдачи теста, буквально через несколько секунд. Учитель бы не успел за такой срок все проверить. Значит, проверял кто-то другой. 

Дана немного углубилась в тему и выяснила, что платформа Edgenuity, предоставляющая онлайн-курсы, использует искусственный интеллект для проверки тестов. Несколько экспериментов – и вот Дана уже поняла, что обмануть этот интеллект очень легко. 

В чем суть платформы Edgenuity

На платформе Edgenuity можно найти более 300 курсов для учеников разных классов – от самых маленьких до старшеклассников. Там же есть еще факультативы и курсы для саморазвития. 

Эту платформу сейчас использует более 20 000 школ по всем США.

И не везде работа проходит гладко: платформа нередко бывает настолько перегружена, что просто не выдерживает – и сайт “падает”. То есть открыть его невозможно. Это, кстати, стало большой проблемой в Стимбот-Спрингс, штат Колорадо. Там сломался процесс зачисления, потому что ученики пытались зарегистрироваться через Edgenuity и сайт “упал”. 

Еще одна проблема платформы – несовершенный искусственный интеллект, проверяющий домашние задания и тесты учеников. В большинстве случаев он работает неплохо, к тому же учителя всегда могут изменить оценку, поставленную ИИ. 

Но когда дело доходит до развернутых ответов на вопрос, тут начинаются проблемы. 

Как взломать искусственный интеллект 

Когда Дана Симмонс решила проверить работу искусственного интеллекта, она поняла, что тот работает на основе ключевых слов. То есть, если таких слов в ответе мало или их нет вообще, то система поставит меньше баллов. 

Вот, например, вопрос: “в чем было преимущество расположения Константинополя для Византийской империи?”. Дана начала думать и просто вписала в поле для ответа ключевые слова: деньги, караван, корабль, Индия, Китай, Ближний Восток. 

“Я просто хотела поиграть с ИИ и выяснила, что он оценивает ответы на основе статей на эту тему. Слова “караван” и “корабль” часто пишут в статьях о Константинополе. Соответственно, ИИ уверен, что эти слова обязаны быть в ответе”, – рассказывает Дана. 

Самое интересное, что писать развернутое сочинение и вписывать туда ключевые слова не нужно. Подойдет и просто набор из этих самых ключевых слов. Именно так Лазарь сумел выбить себе высший балл за это задание. 

И он такой не один. Другие ученики тоже поняли, что ИИ можно обмануть. Некоторые вообще пошли по легкому пути и просто копировали текст вопроса. 

“Я был уверен, что слова из самого вопроса ИИ считает ключевыми в том числе. Так и вышло, я теперь практически всегда получаю высший балл”, – рассказывает еще один учащийся.

Другой ученик поделился своим секретом успеха: подбирать синонимы к словам из тестового вопроса.

Вероятнее всего, они тоже будут зачтены. 

Остин Парадизо, который уже закончил школу, но тоже пользовался платформой Edgenuity, рассказал, что не смог бы получить диплом без мошенничества. Но справедливости ради стоит сказать, что он хотя бы старался свои ответы сделать как минимум читабельными. 

“Я знал, что стоит использовать максимум ключевых слов, но старался сделать из них удобоваримый текст. А вдруг тест захочет проверить учитель? Но, откровенно говоря, можно было так не стараться и просто написать слова через запятую – я бы все равно получил 100 баллов”, – говорит он. 

Действительно, учителя могут проверять тесты учеников и даже менять оценки, выставленные ИИ. И некоторые ученики даже попадались на мошенничестве, когда писали только набор ключевых слов. Но это скорее исключение, чем правило. 

Реакция родителей и представителей платформы 

Представители Edgenuity знают о проблеме, но пока ничего менять не планируют. Ведь такие развернутые ответы – лишь 5% от всех тестов, проверяемых искусственным интеллектом. И эти остальные тесты, вроде тех, где есть просто варианты ответов, подделать гораздо сложнее. 

Но вот родители против использования Edgenuity. Они утверждают, что платформа в итоге не дает того уровня образования, который обещает.

Дети научатся лишь тому, что знания не нужны, важна только хитрость. 

Дана Симмонс таких родителей поддерживает. Она, с одной стороны, рада, что ее сын “познакомился” с работой алгоритма и даже смог обойти его. Не без помощи, родителей, но все же. А с другой стороны, такие сбои в ИИ лишний раз усугубляют неравенство между учениками. 

“Мой сын получает высокие оценки только потому, что его родители разбираются в технологиях. А что делать остальным? Они могут правильно отвечать на вопросы, но система не увидит в них ключевых слов, и такие ученики, с нестандартным мышлением, к примеру, останутся на обочине”, – говорит она. 

Еще на эту тему

Риск заразиться в метро Нью-Йорка низкий

Пубертат во время пандемии – опасно ли это?

Президент Трамп назначил Эми Барретт на должность судьи Верховного суда

Начинать новую жизнь в иммиграции сложно. “Рубик” облегчает этот путь. Наша цель – помочь иммигрантам достичь успеха в США. Для этого мы пишем статьи, снимаем видео, отвечаем на ваши вопросы, организовываем семинары, создаем среду общения без агрессии и осуждения в наших соцмедиа.

Над “Рубиком” работает более десяти человек, и у нас много затрат – зарплаты, хостинг и так далее. У нас нет внешних инвесторов со скрытыми мотивами. Проект основан и принадлежит журналисту и иммигрантке Катерине Пановой. “Рубик”  живет исключительно за счет рекламных доходов и поддержки аудитории.

Пожалуйста, поучаствуйте в нашей миссии помощи иммигрантам. Ваш взнос пойдет на подготовку материалов, которые помогут конкретным людям – найти работу, избежать депортации, распознать мошенников.

Поддержать Рубик
Заказать консультацию
Adblock
detector