Родился 17 апреля 1932 года в Ереване в семье военнослужащего. Окончил в 1954 г. Ереванский политехнический институт по специальности инженер-механик, в 1959 г. - аспирантуру этого вуза, а в 1961 г. - Высшую партийную школу при ЦК КПСС.

1954-1955 К.Демирчян - старший инженер-конструктор, руководитель группы научно-исследовательского института в Ленинграде.

В 1955 Карен Демирчян начал работать мастером на Ереванском электротехническом заводе. Занимал должности начальника цеха, секретаря парткома, главного инженера (с 1961 г.). В 1962 г. назначен директором Ереванского электротехнического завода.

С 1966 К.Демирчян — на партийной работе. Секретарь, а с 1971 г. - второй секретарь ереванского горкома КПСС.

В 1972 г. Карен Демирчян стал секретарем ЦК Компартии республики, а в ноябре 1974 г. - первым секретарем ЦК Компартии Армении; смещен с этого поста в мае 1988 г. Член ЦК КПСС с 1976.

Депутат Верховного Совета СССР 9-го созыва. Награждён орденом Октябрьской Революции, а также другими орденами и медалями.

В октябре 1990 г. К.Демирчян назначен генеральным директором научно-производственного объединения "Армэлектромаш". В 1992-1997 гг. входил в состав коллегии республиканского министерства промышленности и торговли республики.

Карен Демирчян принял участие в президентских выборах весной 1998 года, проиграв во втором туре Роберту Кочаряну.

В июне 1998 г. К.Демирчян создал и возглавил Народную партию Армении, которая, сформировав блок "Единство" с Республиканской партией, одержала 30 мая 1999 г. победу на парламентских выборах.

10 июня 1999 г. Карен Демирчян был избран председателем Национального собрания Армении.

Карен Демирчян убит в результате теракта в здании парламента Армении 27 октября 1999 г.

27 декабря 1999 указом президента Армении за значительные заслуги перед родиной Карен Демирчян посмертно удостоен высшего звания "Национальный герой Армении".

Его сын - Степан Демирчян - является одним из лидеров Народной партии Армении.