오픈AI의 GPT-3가 할 수 있는 놀라운 일들
2020/06/22 - [AI] - [논문리뷰] GPT3 - Language Models are Few-Shot Learners
[논문리뷰] GPT3 - Language Models are Few-Shot Learners
오픈 AI GPT 시리즈의 세 번째 논문이 공개되었씁니다!!!! GPT1 - Improving Language Understanding by Generative Pre-Training GPT2 - Language Models are Unsupervised Multitask Learners GPT3 - Language ..
littlefoxdiary.tistory.com
앱을 만들어줄 수 있겠어?
"돈을 추가하고 빼는 버튼을 만들고, <내 잔고 보여줘> 버튼을 누르면 잔고를 표시해주는 앱을 만들어줘" 라고 하자, GPT-3는 실제로 작동하는 반응형 앱을 만들어낸다!
https://twitter.com/sharifshameem/status/1284095222939451393
Sharif Shameem on Twitter
“I just built a *functioning* React app by describing what I wanted to GPT-3. I'm still in awe. https://t.co/UUKSYz2NJO”
twitter.com
자연어 수식을 입력하면 LaTex으로 바꿔주는 GPT-3
수식에서 처리할 내용을 영어로 입력하자 LaTex 코드가 출력된다. 놀라운 점은 이 데모가 fine-tuning 없이 GPT-3가 가진 few-shot extrapolation 능력을 이용해 만든 것이라는 점. 이제 LaTex 구글링 없이 논문 쓰는 Codeless 세상이...??
Shreya Shankar on Twitter
“After many hours of retraining my brain to operate in this "priming" approach, I also now have a sick GPT-3 demo: English to LaTeX equations! I'm simultaneously impressed by its coherence and amused by its brittleness -- watch me test the fundamental th
twitter.com
리눅스 코딩해주는 AI
깃헙을 학습한 GPT-2가 파이썬 코딩을 하는 데모에 이어 리눅스 명령어를 만들어내는 GPT-3 데모 발표!
https://twitter.com/super3/status/1284567835386294273
Shawn Wilkinson on Twitter
“Been playing with @OpenAI #gpt3 and its the coolest thing ever! Came up with https://t.co/JMbTA1P0Wh, and looking for testers to help train it. Special thanks to @gdb @sharifshameem https://t.co/Ly9y7gqVQK”
twitter.com
JSX 코딩도 가능합니다
원하는 레이아웃을 묘사하면, JSX 코드를 생성해준다. 마찬가지 few-shot 셋팅의 실험으로 2개의 샘플만을 GPT-3에게 주자 다른 형태의 코드를 만들어냈다고 한다. 어떤 형태의 JSX 코드는 길기 때문에 GPT-3의 512토큰 제한에 맞지 않아 예외 사항이 있었다고는 한다.
https://twitter.com/sharifshameem/status/1282676454690451457
Sharif Shameem on Twitter
“This is mind blowing. With GPT-3, I built a layout generator where you just describe any layout you want, and it generates the JSX code for you. W H A T https://t.co/w8JkrZO4lk”
twitter.com
SQL 쿼리 생성기
few-shot 셋팅으로 SQL 쿼리를 생성하고, 예시로 본적도 없는 SUBSTR과 같은 고난이도 쿼리도 만들어낼 수 있었다.
ken on Twitter
“GPT-3 Does The Work™️ on some business analyst SQL queries given quite a few examples from (https://t.co/65ixaxzdyS). What's wildest is that it knows a few functions like SUBSTR given no examples in that syntax. More to come re: GPT-3 for automating
twitter.com
GPT-3를 이용한 코드 생성을 직접 해보고 싶다면 >>> debuild.co 홈페이지 참고
https://docs.google.com/forms/d/e/1FAIpQLSeI-QTsXJV0cF5MuB7RwgA0QdHEWn7E6zrs7dCHDLHA3s64Dg/viewform
GPT-3 Code generator (debuild.co)
If you want to use the gpt-3 generator for yourself, then fill out this form!
docs.google.com
'AI' 카테고리의 다른 글
| [논문리뷰] Longformer: The Long-Document Transformer (3) | 2020.07.21 |
|---|---|
| Transformer로 텍스트를 생성하는 다섯 가지 전략 (0) | 2020.07.20 |
| [논문리뷰] GPT3 - Language Models are Few-Shot Learners (9) | 2020.06.22 |
| 한국어 자연어 처리 데이터셋 목록 (9) | 2020.05.24 |
| [논문리뷰] ELECTRA: Pre-training Text Encoders as Discriminators Rather Than Generators (5) | 2020.05.24 |
