Используйте Copilot для создания кода AI

'Любая достаточно развитая технология неотличима от магии.' Артур С. Кларк

В Нейронная сеть SBC post мы видели сеть с весами 1k, обученную с 10k образцами для аппроксимации функции синуса. В этом посте мы будем использовать веса 175G, обученные сэмплами 450G, которые могут программировать лучше, чем средний программист. Размеры этих моделей впечатляют, но на самом деле никто не знает, как они работают и каковы их ограничения.

GitHub Copilot — это инструмент искусственного интеллекта, который ускоряет разработку программного обеспечения, позволяя программисту делать многие вещи, которые раньше были невозможны. На первый взгляд это похоже на использование StackOverflow, веб-сайта, куда программисты отправляют вопросы, когда не знают, как что-то сделать, но Copilot идет гораздо дальше, он способен синтезировать новый ответ для нашей проблемы.

Copilot включен в код Microsoft Visual Studio и постоянно предлагает коды, выделенные серым цветом, которые можно принять, нажав кнопку табуляции. Этот предлагаемый код можно приблизительно определить как «наиболее распространенное» совпадение между вашим запросом (вашим кодом) и набором обучающих данных (код GitHub).

Пример 1

В этом примере мы определяем нашу функцию и ее строку документации и запрашиваем завершение Copilot. Как мы видим, завершение соответствует строке документации. Первая интуиция заключается в том, что Copilot действует как поисковая система и просто сопоставляет ваш запрос со своим обучающим набором данных (150 ГБ проектов с открытым исходным кодом), но это не так.

Пример 2

Здесь мы создаем случайную/сумасшедшую строку, которой не может быть в тренировочном наборе. Результат по-прежнему выглядит как наиболее последовательное решение, которое может быть предоставлено в данном случае: сумма входных параметров.

Пример 3

В этом примере мы просим (на испанском языке) просуммировать площадь пересечения двух кругов, учитывая их центр и радиус. Copilot без проблем понимает испанский текст и предлагает имя функции, параметры и все тело функции. После краткого обзора похоже, что код должен работать.

Пример 4

Теперь мы создаем гипотетический текст вопроса/ответа. Это заставляет Copilot сопоставлять запрос с некоторыми экзаменами, которые могут быть в этом наборе обучающих данных. Мы просто спрашиваем столицу Испании, и второй пилот генерирует правильный ответ.

Пример 5

Однако, если мы спрашиваем о несуществующей стране, Copilot также дает свой лучший ответ, который тоже выглядит «правильным».

Пример 6

В этом примере мы обращаем процесс, мы даем ответ, чтобы попытаться сгенерировать вопрос. Второй пилот генерирует вопрос, которого мы не ожидали. Мы ожидали: «Какая столица Франции?» и второй пилот спросил: «Каков результат следующего кода?» но все же мы можем понять правильное предложение.

Пример 7

Здесь мы заставляем второго пилота спрашивать, что мы хотим изменить на более распространенный язык и добавить первую букву. Однако возникает еще один вопрос, на этот раз совершенно неправильный и не имеющий никакого отношения к ответу.

Подводя итоги, второй пилот:

• Строит предложение на основе наиболее распространенного решения.
• Обычно правильно просто, если ваш запрос имеет смысл.
• Обычно неправильно, когда ваш запрос выглядит как обычная проблема, но это не так, и на самом деле он имеет совсем другую цель.

Copilot с использованием библиотек с открытым исходным кодом

Второй пилот прошел обучение на проектах с открытым исходным кодом. Он включает в себя миллионы вариантов использования любой библиотеки с открытым исходным кодом, такой как numpy, opencv, qt… Это делает Copilot действительно полезным, потому что он помогает программисту с наиболее распространенным предложением, которое обычно является лучшим.

Пример 8

В этом примере мы используем модульный тест модуль python, и второй пилот знает, что unittest.TestCase имеет метод с именем утверждать равно а также знает, что фу( 1, 2 ) должно быть 3.

Пример 9

Сверху создаем более сложный Foo функцию (которую мы предполагаем, что она не может быть в обучающих данных), чтобы увидеть, действительно ли второй пилот понимает код. После запуска кода с 17 тестовыми примерами только 6 не прошли, что дает коэффициент успеха 65%.

Это может показаться не таким уж большим, но имейте в виду, что Copilot не является интерпретатором Python, он не выполнял функцию для получения результата… Copilot использовал то, что узнал во время обучения, для преобразования нашего запроса в вывод, который имеет идеальный синтаксис Python и также хорошо работает в 65% случаев.

Пример 10

Можно было бы ожидать, что длинный вводимый текст приведет к сбою второго пилота, но это не так: чем больше информации мы даем, тем лучшие ответы может генерировать второй пилот.

В приведенном выше примере мы просим сложную задачу, полную программу, для решения которой требуется разное понимание, например: навыки программирования на Python, специальные библиотеки для микропитона и способы их правильного использования даже в понимании описания человеческого текста.

Полная подсказка отображается в следующей ячейке. Обратите внимание, что это очень хорошо соответствует описанию программы. Класс приложения имеет смысл, и даже библиотеки micropython (PIN, UART, ADC, PIN.irq…) используются правильно. Это не на 100% идеально, например в этом случае temp_senor является объектом ADC, который не имеет temp_sensor.init() метод, и другие небольшие ошибки могут быть сгенерированы, но вся структура программы определенно правильная, и небольшие ошибки могут быть легко исправлены.