Songform, wordwise

“trade-off”: 조건을 중간 중간 넣을 수록 텍스트 길이가 길어짐 → 모델 커짐

• Condition=’both’
• condition=’front_only’ ⇒
• condition=’back_only’

Songform, multi-level granularity

• Condition=’both’
• condition=’front-only’

Infill, multi-level granularity

참고 (예전에 구현한 것)

'<bos>드론과 <|infill_word|> 천국같은 곳 다 함께 <|infill_word|> <|infill_ngram|> 손에 잡히지 않는 자유로움 우리 모두 함께 나눠보자<|sep|>\\
<|startofinfill|><syl4>함께하는<|wordend|> <syl2>멋진<|wordend|> <syl6>추억을 만들어<|wordend|><eos>'