1907년 이전에는 교육운동과 국채보상운동 등 계몽운동을 벌였고, 그뒤 러시아에서 의병활동을 하다가 1909년 초대조선통감이었던 이토 히로부미[伊藤博文]를 조선침략의 원흉으로 지목하여 하얼빈[合爾濱]에서 사살했다. 본관은 순흥(順興).

할아버지는 진해현감을 지낸 인수(仁壽)이며, 아버지는 진사 태훈(泰勳)이다. 태어날 때 배에 검은 점이 7개가 있어서 북두칠성의 기운으로 태어났다는 뜻으로 어릴 때에는 응칠(應七)이라 불렀는데, 이 이름을 해외에 있을 때 많이 사용했다. 1884년 갑신정변 이후 개화당의 일원이었던 아버지가 황해도 신천군 두라면 청계동으로 피신했다. 이곳에서 아버지가 세운 서당에서 공부를 했으나 사서오경에는 이르지 못하고 〈통감〉 9권까지만 마쳤다고 한다. 말타기와 활쏘기를 즐겼고, 집 안에 자주 드나드는 포수꾼들의 영향으로 사냥하기를 즐겨 명사수로 이름이 났다. 1894년 갑오농민전쟁이 일어나 해주감사의 요청으로 아버지가 산포군(山砲軍)을 조직해 농민군을 진압할 때 참가하여, '박석골전투' 등에서 기습전을 감행, 진압군의 활동에 큰 도움을 주었다. 1895년 아버지를 따라 천주교에 입교하여 토마스[多默]라는 세례명을 받았다. 천주교를 통해서 신학문에 관심을 가졌으며 신부에게 프랑스어를 배우기도 했다. 한때 교회의 총대(總代)를 맡았고 뒤에 만인계(萬人契：1,000명 이상의 계원을 모아 돈을 출자한 뒤 추첨이나 입찰로 돈을 융통해주는 모임)의 채표회사(彩票會社：만인계의 돈을 관리하고 추첨을 하는 회사) 사장을 지냈다. 17세에 결혼해 2남 1녀를 두었다.

1905년 을사조약이 체결되자 국권회복운동을 하기 위해 상하이[上海]로 갔으나 기대를 걸었던 상하이의 유력자들과 천주교 신부들로부터 협조를 거절당하고 이무렵 아버지가 죽어 다시 돌아왔다. 1906년 3월에 이사한 평안남도 진남포에서 석탄상회를 경영하다가 이를 정리하고 삼흥학교(三興學校：뒤에 五學校로 개명)를 설립하여 교육운동을 시작했다. 곧이어 천주교 계열인 남포 돈의학교(敦義學校)를 인수했다. 1907년에는 전국적으로 전개되던 국채보상운동에 적극 호응하여 국채보상기성회 관서지부장으로 활동했다. 1907년 고종의 강제퇴위와 한일신협약의 체결, 군대해산에 따라 전국적으로 의병이 일어나자 독립전쟁준비가 필요하다는 생각으로 강원도에서 의병을 일으켰다. 일본군과 싸우다가 국외에서 의병부대를 창설하기 위해서 블라디보스토크로 가서 계동청년회(啓東靑年會)의 임시사찰(臨時査察)이 되었다. 이곳에서 이범윤(李範允)을 만나 의병부대의 창설을 협의하는 한편, 엄인섭(嚴仁燮)·김기룡(金起龍) 등과 함께 의병부대 창설의 준비단체인 동의회(同義會)를 조직하고 최재형(崔在亨)을 회장으로 추대했다. 이들은 연해주의 한인촌을 돌아다니며 독립전쟁과 교육운동의 필요성을 설득하고 의병을 모았다. 의병지원자가 300여 명이 되자 이범윤을 총독, 김두성(金斗星)을 대장으로 추대하고 참모중장이 되었다. 이때부터 두만강 부근의 노브키에프스크를 근거지로 훈련을 하면서 국내진공작전을 준비했다. 1908년 6월에 특파독립대장 겸 아령지구군사령관으로 함경북도 경흥군 노면에 주둔하던 일본군 수비대를 격파했다. 그뒤 본격적인 국내진공작전을 감행하여 함경북도 경흥과 신아산 부근에서 전투를 벌여 전과를 올렸으나, 얼마 후 일본군의 기습공격을 받아 처참하게 패배했다. 이때 기습공격을 받은 이유는 다른 사람들의 반대에도 불구하고 전투에서 사로잡은 일본군 포로를 국제공법에 의거해서 석방해주었기 때문이라고 한다. 블라디보스토크로 돌아와 의병을 다시 일으키려고 했으나 많은 사람들의 비판을 받고 부대는 해체되었다.

1909년 3월 2일 노브키에프스크에서 함께 의병활동을 하던 김기룡·황병길·강기순·유치현·박봉석·백낙규·강두찬·김백춘·김춘화·정원식 등 12명이 모여 단지회(斷指會：일명 단지동맹)라는 비밀결사를 조직했다. 그는 침략의 원흉 이토 히로부미를 암살하기로 하고 3년 이내에 성사하지 못하면 자살로 국민에게 속죄한다고 맹세했다. 9월 블라디보스토크의 〈원동보 遠東報〉와 〈대동공보 大東共報〉를 통해 이토가 북만주 시찰을 명목으로 러시아의 대장대신(大藏大臣) 코코프체프와 회견하기 위하여 온다는 정보를 입수했다. 하얼빈과 채가구(蔡家溝)를 거사장소로 설정하고, 채가구에 우덕순과 조도선을 배치하고 그는 하얼빈을 담당했다. 10월 26일 하얼빈 역에서 이토가 코코프체프와 열차에서 회담을 마친 뒤 러시아 의장대를 사열하고 환영군중 쪽으로 가는 순간 권총을 쏘아, 이토에게 3발을 명중시켰다. 이어서 하얼빈 총영사 가와카미[川上俊彦], 궁내대신 비서관 모리[森泰二郞], 만철(滿鐵) 이사 다나카[田中淸太郞] 등에게 중경상을 입힌 뒤 '대한만세'를 외치고 현장에서 체포되었다.

러시아 검찰관의 예비심문과 재판과정에서 한국의병 참모중장이라고 자신을 밝히고, 이토가 대한의 독립주권을 침탈한 원흉이며 동양평화의 교란자이므로 대한의용군사령의 자격으로 총살한 것이며 안중근 개인의 자격으로 사살한 것이 아니라고 거사동기를 밝혔다. 러시아 관헌의 조사를 받고 일본측에 인계되어 뤼순 감옥으로 옮겨졌다. 관동도독부 지방법원에서 여러 차례의 재판을 받는 동안 "나는 의병의 참모중장으로 독립전쟁을 했고 참모중장으로서 이토를 죽였으니 이 법정에서 취조받을 의무가 없다"라고 재판을 부정하고, 자신을 전쟁포로로 취급하여 줄 것을 요구했다. 또한 일본검찰에게 이토의 죄상을 명성황후를 살해한 일, 1905년 11월에 한일협약 5개조를 체결한 일, 1907년 7월 한일신협약 7개조를 체결한 일, 양민을 살해한 일, 이권을 약탈한 일, 동양평화를 교란한 일 등 15가지로 제시하고 자신의 정당성을 밝혔다. 당시 국내외에서는 변호모금운동이 일어났고 안병찬과 러시아인 콘스탄틴 미하일로프, 영국인 더글러스 등이 무료변호를 자원했으나 일제는 일본인 관선변호사 미즈노[水野吉太郞]와 가마타[鎌田政治]의 변호조차 허가하지 않으려 했다. 1910년 2월 14일 사형선고를 받고 3월 26일 뤼순 감옥에서 사형당했다. 1962년 건국훈장 대한민국장이 추서되었다.