할렘가의 사립탐정 존 샤프트(리처드 라운트리)가 할렘 암흑가의 두목 범피(모제스 건)로부터 납치된 자기 딸을 찾아달라는 부탁을 받는다. 샤프트는 흑인 범죄자들로부터 완전한 신뢰를 받는 인물도 아니고 백인들이 지배하는 경찰 조직 내에서도 적당한 존경을 받으며 일하고 있다. 그는 직설적이며 터프하다. 이 납치 사건을 두고 흑인 사회의 내막을 알지 못하는 뉴욕 경찰은 샤프트의 수사만을 예의주시하고 있다. 그들은 샤프트가 없이는 사건의 정황도 제대로 이해할 수 없는 것이다. 다만 이것이 흑인 폭동으로 번질 조짐이 있다는 것을 알고 있을 뿐이다. 샤프트는 거리의 형제들과 협력관계를 맺으며 사건에 점점 접근해 간다. 관할구역 내에 있는 친구 안드로치(찰스 시오피)와 지하의 반체제 투사 벤 버포드(크리스토퍼 존슨) 도움으로, 마침내 이 사건의 배후에 백인 갱단이 있다는 것을 알게 된다. 그의 추적은 계속되고 의외의 결말이 기다리고 있다.