Родился в 1969 году (по другим данным - в 1974 г.) в г.Буйнакск Дагестанской АССР. Лакец. Служил в пограничных войсках на границе с Монголией. Вернувшись из армии, открыл  в начале 1990-х гг. собственную пекарню, стал выпекать и продавать хлеб.

По свидетельству родственников Халилова, до 1998 года он ничем не отличался от местных жителей, нередко выпивал и ссорился с женой. Резкая перемена произошла с Халиловым в 1998 году, когда он увлекся исламом.

Вскоре Халилов женился на сестре одной из жен полевого командира Хаттаба. Они жили в селе Карамахи, жители которого исповедывали салафитское направление ислама (т.н. ваххабизм), и где в 1999 году, после вторжения отрядов Басаева и Хаттаба в Дагестан, шли самые ожесточенные бои с федеральными войсками. Раппани Халилов принял активное участие в боевых действиях в Ботлихском и Новолакском районах на стороне сепаратистов и вместе с ними отступил на территорию Чечни. (В Новолакском районе Халилов воевал в отряде "Карамахинский" на высоте "Телевышка", где были перебиты сотрудники Новолакского РОВД).

После этого Халилов создал сильный и хорошо оснащенный отряд боевиков численностью до 100 бойцов, который обосновался в горах Ножай-Юртовского района. В вылазках участия они не принимали, а в основном занимались тренировками. Одно время имя Халилова также фигурировало в списке боевиков, скрывавщихся в Панкисском ущелье.

По данным прокуратуры, в марте 2001 года Халилов начал посылать боевиков в Дагестан. В республике стали происходить многочисленные теракты, в первую очередь против сотрудников силовых структур.

Раппани Халилов считается организатором теракта в г.Каспийске 9 мая 2002 года. Тогда от взрыва, произошедшего в центре города во время парада в честь Дня Победы, погибли 45 человека и около 100 получили ранения. Халилову также инкриминируют взрывы на железной дороге в Махачкале в августе 2001 года, подрыв шести автомобилей правоохранительных органов в декабре 2001 - январе 2002 года и теракт 18 января 2002 г. в Махачкале, когда от взрыва грузовика погибли 7 солдат-призывников и были ранены еще 11. По данным спецслужб, на счету Халилова - свыше 60 терактов, произошедших в Дагестане в 2001-2007 гг.

По информации СМИ весной 2002 года Халилов получил тяжелое ранение в область бедра и долгое время не мог самостоятельно передвигаться.

В мае 2002 года отец Раппани Халилова в здании МВД Дагестана перед журналистами публично отрекся от сына.

24 сентября 2006 года указом президента непризнанной Республики Ичкерия Докку Умарова Раппани Халилову было присвоено звание бригадного генерала и он был назначен командующим Дагестанским фронтом.

ФСБ и милиция Дагестана несколько раз рапортовали о ликвидации Халилова, однако всякий раз эти сообщения не подтверждались.

17 сентября 2007 года Раппани Халилов был убит в пос.Новый Сулак Кизилюртовского района Дагестана во время многочасового штурма спецназом УФСБ частного домовладения, где он вместе с двумя другими боевиками держал оборону. В результате обстрела из танков и огнемётов дом, где скрывались боевики, был полностью разрушен.

Халилов был женат, имел двоих детей.