1 августа 1975 года завершилось проходившее в Хельсинки совещание по безопасности и сотрудничеству в Европе, в котором принимали участие главы всех европейских государств (за исключением Албании), а также США и Канады. Советское руководство, подписав Заключительный акт этого совещания, приняло на себя обязательство придерживаться международных стандартов в области прав человека. Московские правозащитники Юрий Орлов, Андрей Амальрик, Валентин Турчин, Анатолий Щаранский пришли к идее создания независимых от правительств общественных объединений по контролю за выполнением гуманитарных статей Хельсинкских соглашений. 12 мая 1976 года на пресс-конференции, созванной на квартире академика Сахарова, Юрий Орлов объявил о создании Московской Хельсинкской группы. В МХГ вошли Людмила Алексеева, Михаил Бернштам (он состоял в МХГ около 2 месяцев), Елена Боннэр, Александр Гинзбург, Петр Григоренко, Александр Корчак, Мальва Ланда, Анатолий Марченко, Виталий Рубин, Анатолий Щаранский.

МХГ стала принимать от граждан СССР информацию о нарушениях гуманитарных статей Хельсинкских соглашений, составлять на этой основе свои документы и доводить их до сведения общественности и правительств 35 государств, подписавших Заключительный акт совещания в Хельсинки. В документах МХГ указывались конкретные случаи нарушений обязательств советского руководства по соблюдению свободы совести; прав политических заключенных; права на контакты между людьми; права на справедливый суд; социально-экономических прав, равноправия наций и права народов распоряжаться своей судьбой; свободы выбора места проживания; свободы выезда из страны и возвращения в нее. Документы подписывали члены МХГ, участвовавшие в их подготовке, и те их товарищи по группе, которые были согласны с содержанием данного документа. Все документы МХГ направлялись по почте в канцелярию Президиума Верховного Совета СССР и в московские посольства стран-участниц Хельсинкских соглашений, а также передавались иностранным корреспондентам на пресс-конференциях.

Члены МХГ выезжали в командировки по стране для сбора на местах информации о нарушениях гуманитарных статей Хельсинкских соглашений. Группа выпустила 195 информационных документов и несколько обзоров. Часть сообщений и заявлений была сделана совместно с другими правозащитными организациями.

По примеру МХГ в 1976–1977 годах были созданы аналогичные группы на Украине, в Литве, Грузии и Армении. В январе 1977 года по инициативе Петра Григоренко при МХГ создана Рабочая комиссия по расследованию использования психиатрии в политических целях.

С первых дней создания МХГ в советской печати началась кампания угроз и клеветы против нее. Это была спланированная кампания по ликвидации хельсинкского движения в СССР, утвержденная высшим партийным руководством. В феврале 1977 года начались аресты в МХГ и других хельсинкских группах. В Москве были арестованы Юрий Орлов и Александр Гинзбург, затем – Анатолий Щаранский и Мальва Ланда. На членов МХГ оказывали давление, добиваясь их отказа от участия в работе группы и вынуждая к эмиграции. В 1976 году эмигрировал Виталий Рубин, в 1977-м – Людмила Алексеева и Петр Григоренко. Однако группа продолжала работу. В нее вошли новые члены: Владимир Слепак, Юрий Мнюх, Наум Мейман, Татьяна Осипова, Иван Ковалев, Виктор Некипелов, Софья Каллистратова, Юрий Ярым-Агаев, Леонард Терновский, Феликс Серебров. После окончания ссылки вернулась к работе в группе Мальва Ланда, но в 1980 году она снова была репрессирована. В общей сложности члены МХГ по приговорам, вынесенным советскими судами, должны были отбыть свыше 60 лет лагерей и 40 лет ссылки. К концу 1981 года на свободе в СССР остались лишь три члена МХГ – Елена Боннэр, Софья Каллистратова и Наум Мейман. В сентябре 1982 года, когда было заведено уголовное дело против Софьи Каллистратовой и ей грозил арест, было сделано заявление о прекращении работы группы.

Московская Хельсинкская группа с момента своего создания привлекала симпатии советских граждан, сознававших свое бесправие, и вызывала большой интерес западной общественности. Сообщения о деятельности МХГ и о репрессиях против ее членов были в центре внимания западных средств массовой информации и особенно радиостанций, вещавших на Советский Союз. В 1978 году сенат США выдвинул арестованных членов группы на Нобелевскую премию мира. Вопрос об их судьбе регулярно поднимался при встречах руководителей СССР с политическими и общественными деятелями демократических стран. Создание Московской Хельсинкской группы положило начало международному хельсинкскому движению, которое ныне представлено 37 аналогичными правозащитными организациями в странах-партнерах по Хельсинкским соглашениям. Эти организации объединены в Международную Хельсинкскую федерацию по правам человека (основана в 1982 году в Беладжио, Италия).

28 июля 1989 года МХГ была вновь учреждена в составе: Лариса Богораз, Сергей Ковалев, Вячеслав Бахмин, Алексей Смирнов, Лев Тимофеев, Борис Золотухин. К ним присоединились Юрий Орлов, Людмила Алексеева и Кронид Любарский. Председателем МХГ стала Лариса Богораз, в 1994 году ее сменил Кронид Любарский. В мае 1996 года МХГ возглавила вернувшаяся из эмиграции в 1993 году Людмила Алексеева. В ноябре 1998 года она была избрана также президентом Международной Хельсинкской федерации.

Согласно уставу, принятому в 1993 году, Московская Хельсинкская группа является неправительственной общественной организацией. Ее цель – содействие практическому выполнению гуманитарных статей Заключительного акта Хельсинкского совещания по безопасности и сотрудничеству в Европе (СБСЕ).

С 6 июля 1996 года МХГ выпускает информационный бюллетень, бесплатно рассылаемый региональным правозащитным организациям.

В состав МХГ входили Эрнст Аметистов, Галина Старовойтова (ныне покойные), ее членами являются Валерий Абрамкин, Валерий Борщев, Дина Каминская, Сергей Ковалев, Юрий Орлов, Борис Пинскер, Генри Резник, Лев Пономарев, Глеб Якунин, Борис Альтшулер, Кристофер Геттеруд, Иосиф Дядькин, Евгений Захаров, Инна Захарова, Виктория Маликова, Каринна Москаленко, Мара Полякова, Сергей Сорокин, Георгий Эдельштейн, Сергей Пашин, Алексей Симонов.