전체 글 썸네일형 리스트형 자연어 생성에서의 Beam Search / 파이썬으로 Beam Search 구현하기 자연어 생성 모델 자연어 생성은 단어들의 시퀀스를 아웃풋으로 예측해내는 태스크이다. 일반적으로 생성 모델은 각각의 디코딩 타임 스텝에서 전체 단어 사전에 대한 확률 분포를 예측한다. 따라서 실제로 단어를 생성해내기 위해서는 모델의 예측 확률 분포를 이용해 각 타임스탭의 단어로 변환하는 과정이 필요하다. 아래 그림은 Image Captioning 태스크에서 모델이 4개의 타임 스텝 동안 생성한 확률 분포를 나타낸 예시이다. 첫 번째에서는 V차원의 단어 사전에 대해 '고양이' 토큰의 확률 값이 가장 높은 softmax 값을 예측했고, 마지막 타임 스텝에서는 문장 종료를 나타내는 '' 토큰에 대한 값이 가장 높은 확률분포를 예측한 것을 볼 수 있다. 이제, 위와 같이 모델이 예측한 확률 분포에 대해 디코딩하기.. 더보기 [Python] 힙 자료구조 / 힙큐(heapq) / 파이썬에서 heapq 모듈 사용하기 힙은 특정한 규칙을 가지는 트리로, 최댓값과 최솟값을 찾는 연산을 빠르게 하기 위해 고안된 완전이진트리를 기본으로 한다. 힙 property : A가 B의 부모노드이면 A의 키값과 B의 키값 사이에는 대소 관계가 성립한다 최소 힙: 부모 노드의 키값이 자식 노드의 키값보다 항상 작은 힙 최대 힙: 부모 노드의 키값이 자식 노드의 키값보다 항상 큰 힙 이러한 속성으로 인해 힙에서는 가장 낮은(혹은 높은) 우선순위를 가지는 노드가 항상 루트에 오게 되고 이를 이용해 우선순위 큐와 같은 추상적 자료형을 구현할 수 있다. 이때 키값의 대소 관계는 부모/자식 간에만 성립하고, 형제노드 사이에는 대소 관계가 정해지지 않는다. 파이썬 힙 자료구조 파이썬 heapq 모듈은 heapq (priority queue) 알고.. 더보기 Growth IQ: 성공을 위한 10가지 경로 성공은 불량한 선생이다. 똑똑한 사람을 꼬드겨 자신은 실패할 리 없다고 생각하게 만들기 때문이다 - 빌 게이츠 성공적인 비즈니스로 가는 열 가지 경로 이야기 1. 고객 경험 고객 경험은 새로운 유행이다. 고객 경험은 있으면 좋거나 가끔 일어나는 이벤트가 아닌 기업의 DNA의 일부이자 행보의 기준. 이는 기업 성장의 근본으로, 성장 경로를 한 가지 이상 추진하면서 고객 경험을 결합하지 않으면 고객이 느끼는 기업 브랜드 가치가 희석되므로 주의해야 함. 세포라 : 개인화 쇼핑, 브랜드가 아닌 제품별 진열과 상품 체험을 통한 고객 경험 향상 셰이크쉑 : 기업의 고객이 직원보다 행복해지는 일은 결코 없다는 철학. 직원을 최우선으로 생각하여 직원의 행복을 고객 경험으로 연결. 셰이크쉑의 CEO인 랜디 가루티는 보스.. 더보기 이전 1 ··· 12 13 14 15 다음
