[aws] invalid split data size 확인 방법
·
개발기록
안녕하세요 성장형 개발자입니다. 회사 내 환경이 AWS로 바뀌어서 여러가지의 시행착오들을 겪고 있습니다 ㅎㅎ 힘들긴 하지만 충분히 재미가 있어서 하루하루 힘듦과 재미가 공존되고 있습니다. 각설하고 시작하겠습니다 상황 데이터를 수집하는 과정에서 SQS(Simple Queue Service) 에서 문제가 있는 데이터는 DLQ(Dead Letter Queue)에 쌓고 있습니다. 여러 에러 중 invalid split data size 가 발생하였는데, 해당 부분 확인 방법에 대해서 알려드리겠습니다. 번역을 하면 잘못된 분할 데이터 크기입니다. 원천에서 보내주는 데이터를 카프카로 받아옵니다. 예를 들어서 우리쪽의 테이블 컬럼이 51개입니다. 원천에서 보내주는 데이터의 값의 갯수가 52개를 보내주어서 에러가 발생..