המסעדה הוקמה בשנת 1948 על ידי יהודה ״יונק״ מילשטיין. למעשה, בראשית דרכה הייתה המסעדה מפעל לגלידה, ומכאן השם. המסעדה הכילה מכונות לייצור גלידה ושימשה מוקד עלייה לרגל לתושבי חיפה שהגיעו למקום לקנות גלידות וקרטיבים. בהמשך, בראשית שנות החמישים, החלו למכור במסעדה מאכלים רומניים. המסעדה המשיכה לתפקד גם כמפעל לייצור גלידה עד ראשית שנות השמונים.
במהלך שנות השמונים עבר הדגש מיוצר גלידה למסעדה, אך השם של המסעדה נשאר ״קפה גלידה יונק״. בחיפה, כשאומרים ״נלך לגלידה״, ברור לכולם שהולכים לאכול סטייק. במהלך השנים התבססה המסעדה כמוסד חיפאי וכמקום עלייה לרגל לחובבי הבשר והגריל הרומני.
לקראת שנת 2000 עברה המסעדה שיפוץ, החלקים שהיו שייכים למפעל הגלידה הוסבו למסעדה החדשה. מאז ועד היום, אנחנו נהנים לשרת את לקוחותינו, דור רביעי של סועדים במסעדה.