1974년 1월 대의동에 있는 (구) 일본영사관 건물에서 개관하였으며, 1989년 6월 용당동에 신축 건물을 지어 이전하여 현재에 이르고 있다. 목포시립도서관은 도서자료를 수집, 정리, 보존, 축적하여 시민의 정보이용과 문화활동, 평생교육에 도움을 주는 이용자 중심의 도서관으로 발돋움하고 있으며 언제나 누구나 쉽게 이용할 수 있도록 노력하고 있다.
도서관은 지하 1층을 포함한 지상 4층 건물로 편의를 위한 다양한 시설을 운영 중이다. 시설로는 종합자료실, 열람실, 어린이자료실, 디지털 자료실, 족보와 점자도서를 갖춘 족보·장애인 열람실, 고시실, 강의실 등이 있으며, 정보화 교육을 하는 IT 플라자실도 있다.
4년간의 리모델링을 거쳐 2022년 재 개관한 목포시립도서관은 여자 전용 열람실과 이용자 스스로 도서를 이용할 수 있는 자가대출반납기기등을 설치하여 목포시민의 다양한 욕구를 충족시키고 있다.