Vega et Rev quittent leur deux groupes respectifs pour former le leur en compagnie d'un deuxième guitariste en 1970. Leurs influences vont donc du jazz (apport de Rev) au protopunk comme Iggy Pop ou le Velvet Underground (influences de Vega). Ils donnent un premier concert dans le quartier de Broadway qui terminera dans le chaos et en bagarre générale. Vega était habillé d'une veste de cuir ornées de chaînes (ce qui était encore peu courant à l'époque) et s'amusait à cogner les murs avec une chaîne de vélo. L'attitude et la provocation punk à venir était déjà présente au sein de cette formation.
Vega et Rev vire quelques mois après son arrivée le guitariste, afin de s'éloigner disent-ils encore plus du rock traditionnel de l'époque. Rev ne jouera plus de batterie mais se concentrera sur ses claviers (déjà electroniques).
Vega laisse quant à lui tomber la guitare et se focalise sur son chant. C'est alors un duo voix/clavier qui les éloigne définitivement comme ils le souhaitaient du rock de la fin des années 60 et du début des années 70. Ils font des reprises minimalistes du Velvet Underground comme « Sister Ray » et composent aussi des morceaux toujours plus répétitifs. Le groupe inspirait vraiment méfiance et peur, car loin de dénoncer la folie de la ville et de ses habitants de manière dérisoire comme les New York Dolls, Suicide la dénoncait de manière beaucoup plus violente, inquiétante et froide. Vega pendant certains concerts dès 1972 , bloquait la porte de sortie afin de garder en otage son public, ou même encore le menacait tout en se frappant le visage avec son micro.
La seule salle voulant encore bien les accueillir après un tel deferlement de folie et de démence fût la même que les New York Dolls, le Mercer Center Arts ou encore le CBGB en 1973, mais plus pour longtemps, puisque Kristal refusa catégoriquement par la suite de les réinviter (jusqu'en 1977 où il leur laissa toutefois une chance de se rattrapper sous l'impulsion de Thau).
Dès 1973 le groupe disparaît de la circulation, n'ayant plus d'endroit où jouer suite à la fermeture du Mercer Center Arts. Vega se plaira à dire que cette absence aura servi à rendre la musique de Suicide plus commerciale.
Ce n'est qu'en 1975 que Suicide sera invité à jouer au Max's Kansas City, l'autre bar punk-rock de New York. Le punk depuis s'est totalement développé et fait partie intégrante du paysage musical new-yorkais.
Marthy Thau (ex manager des New York Dolls) créa la même année son propre label et signa Suicide comme premier groupe. Ils enregistrent le titre Frankie Teardrop qui traite de la démence d'un père de famille que le travail rend malade et qui finit par tuer femme et enfants avant de se suicider. Ce titre dure 10 minutes et peut être qualifié d'electronique bruitiste et marquant par les hurlements d'une jeune femme. Il figure dans leur premier album Suicide sorti en 1977. Il est rejeté par les punks qui le trouvent beaucoup trop minimaliste et sombre à l'image de Kraftwerk (autre formation electronique allemande), mais sera repris et reproduit par le post punk et la new wave un peu plus tard.
Leur première tournée a lieu en 1978. Ils se produisent aux côtés de groupes comme les Clash ou encore Elvis Costello (que l'on peut qualifier d'artiste new wave). Cette tournée sera un vrai massacre et un véritable échec. Vega se recevra même une hâche au visage. Ce deferlement de violence lors de leurs concerts empêchera même Costello de jouer après Suicide en juin 1978 à Bruxelles.
En 1980, Suicide sort un deuxième album en collaboration avec le chanteur des Cars (formation new wave américaine): Alan Vega- Martin Rev.
Il se révèlera être beaucoup plus accessible que le premier mais incarne un véritable flop, car depuis, les formations inspirées du premier album telles que Depeche Mode ou encore Soft Cell n'ont cessé de pulluler et de faire de la musique electronique, une musique grand public.
Le groupe décide de tout arrêter dès 1980 ne décidant de se reformer que de manière irrégulière afin de donner quelques concerts et de sortir deux albums supplémentaires : A Way OF Life et Why Be Blue en 1988 et 1992.
Vega s'est aussi tourné parallèlement vers une carrière solo des plus rockabilly et très loin de la musique electronique de l'album éponyme de Suicide qui ne cesse encore aujourd'hui d'inspirer (aux côtés des Kraftwerk allemands) nombre de formations electroniques à l'instar de sa carrière solo qui elle n'a pas de grande répercussion.
Vidéo : Suicide - Ghost Rider