Фрэнк Костелло родился в горной деревне Кассано-алло-Йонио, Италия в 1891 году. В 1895 году он, вместе с матерью и братом Эдвардом уехал в США. Там семью встретил отец, который переехал в США несколькими годами ранее и имел бакалейную лавку в Восточном Гарлеме. Уже в детстве был вовлечен в преступную деятельность братом Эдвардом. В 13 лет Костелло стал членом местной банды и тогда же изменил имя на Фрэнки. Поначалу совершал мелкие преступления, а в 1908 и 1912 годах его пытались привлечь к уголовной ответствености за разбой, но в обоих случаях он был освобожден за недостатком улик. В 1914 году Костелло женился на Лоретте Гигерман, женщине еврейского происхождения, сестре своего близкого друга. Примерно в это же время он сменил фамилию на Костелло. В 1915 году он отбыл 10 месяцев в тюрьме за незаконное ношение оружия. Освободившись, Костелло решил отойти от уличной преступности и перейти к серьёзным делам. Впоследствии он заявлял, что с того момента никогда не имел при себе оружия. Снова в тюрьму он попал через 37 лет.
После выхода из тюрьмы в 1915 году, Костелло стал членом группировки под руководством Чиро «Артишоковый Король» Терранова. Группировка Террановы находилась в составе ещё более мощной банды братьев Морелло. В этот период Костелло знакомится с Чарли «Лаки» Лучано, который к тому времени уже был известен в криминальном мире. Они быстро стали деловыми партнерами и друзьями. Кроме того Костелло в паре с Лучано налаживает связи и партнерство со многими другими лидерами организованной преступности. В их числе Вито Дженовезе, Альберт Анастасиа(Анастазиа), Карло Гамбино, Фрэнк Скализе, Томми «Трёхпалый Браун» Луккезе, Джо Адонис, а также старые друзья и партнеры Лучано Меер Лански и Бенджамин «Багси» Сигел. Партнеры занимались грабежами, ростовщичеством, вымогательством, контрабандой и незаконными азартными играми. Последнему Фрэнк Костелло уделял гораздо большее внимание, чем прочему. После введения сухого закона все они начали активно заниматься бутлегерством. В 1922 году Лучано, Костелло и часть их итальянских партнеров присоединились к семье во главе которой на тот момент стоял Джо «Босс» Массериа. Впрочем, определенная доля самостоятельности у Лучано все же осталась.
После первых успешных дел, связанных с незаконным оборотом алкоголя, Лучано и Костелло установили деловые отношения с лидерами ирландских преступных группировок Оуни «Киллером» Мэдденом и Уильямом «Большим Биллом» Дуайером. Кроме того они установили партнерство с Артуром Флегенхаймером (Голландец Шульц). В качестве финансиста, консультанта и посредника к ним присоединился Арнольд «Мозг» Ротштейн. Костелло вместе с ирландскими гангстерами сформировал бизнес-цепочку по производству, транспортировке и продаже алкогольных напитков. Весь процесс назывался «Combine». Несмотря на огромные прибыли от бутлегерства, Костелло продолжает активно заниматься игровым бизнесом. Карты, игровые автоматы, букмекерство, плавучие казино, развитию всего этого он уделял много внимания. Кроме нелегального, Костелло имел и вполне законный бизнес. Всегда стильно одетый, с хорошими манерами, Костелло не был похож на традиционного итальянского гангстера. Благодаря этому и готовности хорошо оплачивать различные услуги, он легко налаживал связи с бизнесменами различного уровня, представителями власти и политиками. Так Фрэнк Костелло стал связующим звеном между мафией и политиками, особенно политиками Таммани-холл. Очень хорошо информированного, готового к конструктивному диалогу и несклонного к чрезмерному насилию, Костелло нередко приглашали для улаживания всевозможных проблем.
В 1926 году Уильям Дуайер был отправлен в тюрьму за дачу взятки работникам Береговой охраны США. Таким образом вся цепочка «Combine» перешла к Костелло и Оуни Мэддену. Это вызвало трения между ними и заместителем Дуайера Чарльзом «Вэнни» Хиггинсом. Хиггинс посчитал, что управлять цепочкой должен он, а не Костелло. Одновременно с этим Хиггинс вступил в конфликт с Артуром Флегенхаймером. В борьбе против Голландца Шульца к нему присоединились Джек «Легс» Даймонд и Винсент «Бешеный Пёс» Колл. Все эти события стали началом так называемых «манхэттенских пивных войн». Война длилась несколько лет, в результате союз Костелло, Мэдден, Шульц распался. В 1928 году был убит Арнольд Ротштейн, а в начале 1930-х годов были убиты Вэнни Хиггинс, Винсент Колл, «Легс» Даймонд и многие другие участники конфликта.
После отъезда Дженовезе в Италию Костелло получил полный контроль над семьей Лучано. Благодаря грамотному руководству Костелло и помощи капо Джо Адониса, Энтони Карфано и Майкла «Майка Спускового Крючка» Копполы теневые бизнесы работали без перебоев. Семья богатела год от года. Костелло придерживался принципа — «живи и позволяй жить другим». За годы пребывания на посту босса Костелло приобрел связи с политиками и властями больше, чем кто либо из других боссов мафии. Публично он позиционировал себя, как бизнесмена. И действительно, ему принадлежали компании по снабжению птичьих ферм, сеть мясных рынков и другие предприятия. Костелло принципиально не занимался наркоторговлей. Он считал, что деньги можно заработать и без этого. Такую позицию категорически не разделял Вито Дженовезе и Лучано, торговавший наркотиками с самого начала своей криминальной карьеры. В 1946 году после того как Костелло внедрил свои связи по делу Лучано, ему изменили срок пребывания в заключении, а после этого депортировали в Италию. С этого момента Костелло стал неоспоримым боссом семьи.
В 1956 году могущественный союзник Костелло, Джо Адонис, выбрал добровольную депортацию в Италию вместо длительного тюремного срока. Отъезд Адониса сильно ослабил Фрэнка Костелло. Тем не менее Дженовезе по прежнему требовалось нейтрализовать его другого союзника Альберта Анастазия. Однако обстоятельства сложились так, что Дженовезе пришлось сделать свой ход раньше рассчитанного. В мае 1957 года, вскоре после освобождения из тюрьмы, на Костелло было совершено покушение. Вечером, когда Костелло возвращался в свою квартиру на Манхэттене, он получил огнестрельное ранение головы. Киллер перед выстрелом сказал «Это тебе, Фрэнк». Костелло повернул голову на голос и это спасло ему жизнь. Пуля прошла по касательной, лишь разорвав кожу на голове. Киллер, которым был Винсент «Подбородок» Джиганте, посчитал Костелло мертвым и скрылся. После неудачного покушения Джиганте ударился в бега и специально сильно похудел, для измения внешности. Костелло не стал говорить полиции, что узнал покушавшегося. После «слушаний Кефовера» он, в беседах с друзьями, неоднократно говорил, что теневой бизнес его утомил и ему хотелось бы уйти на покой. Понимая, что за Джиганте стоит Вито Дженовезе, который не остановится на полпути, он принял решение отойти от дел. Так Вито Дженовезе стал боссом семьи. А в октябре этого же года был убит Альберт Анастазия. Убийство так и осталось нераскрытым.