標籤「生成句法」 共有 5 筆搜尋結果

最簡方案下的多維合併機制及標籤算法

最簡方案下的多維合併機制及標籤算法

影音 句法語意

潘俊楠教授帶領的句法團隊致力於生成句法學,尤其是最簡方案、繼承語和語言接觸、少數民族語言和瀕危語言以及理論語言學框架下的心理和神經語言學等領域的研究

從生成語言學到自然語言處理(三):語法檢查任務的實作

從生成語言學到自然語言處理(三):語法檢查任務的實作

句法語意 科技應用

我們進行這個實驗並不是想表達 LLM 不好,而是想實際應用簡單的語言學知識,驗證這些形式化的分析是否真的能實現「在接受這麼少的前提的情況下,知道這麽多」的效果。我們的實驗成果顯示 pyLiteracy 在文法檢查這類小型 NLP 任務中的表現十分出色。最重要的是,仰賴更貼近人類對語言的理解方式,它能用相比於 LLM 而言,非常非常少的資源就完成任務,在這個專案中,我們用非常非常少的語言學知識就省下了非常多的資源。

從生成語言學到自然語言處理(二):LLM 的推理 v.s. 人類的推理

從生成語言學到自然語言處理(二):LLM 的推理 v.s. 人類的推理

句法語意 科技應用

掌握母語知識後,幼兒便能開始創造其「一生中從沒看過或聽過」的句子。反觀 LLM,以 Meta 開發的 Llama 3.1 405B為例,根據官方給出的數據,其訓練資料包含超過 15 兆個字元,這幾乎可以說是網際網路出現以來所有的文本資料了,並且其訓練用的硬體設備不論在記憶體大小還是執行速度上,都遠超幼兒大腦。集大量軟硬體資源於一身的 LLM 在「語言知識」上仍與普通人類有基本的差異,甚至在某些特定情境下,不及那個每天早上只靠一杯咖啡保持頭腦清醒、侃侃而談的你。

從生成語言學到自然語言處理(一):LLM和人類一樣嗎?

從生成語言學到自然語言處理(一):LLM和人類一樣嗎?

句法語意 科技應用

現在的生成式人工智慧能做到的事情越來越多,也越做越好。像是ChatGPT這樣的大型語言模型應用,從一般的問答、文章翻譯、摘要到檢查,甚至程式碼的撰寫,都能幫上忙。而身為語言學研究所的學生,我對於機器和資訊系統學習人類語言這件事情感到驚奇之餘,也很好奇 LLM 和人類在「語言知識的儲存表徵與運用機制」的差異究竟在哪裡?

語言科技的跨域實踐:從語言學理論到卓騰科技實習經驗

語言科技的跨域實踐:從語言學理論到卓騰科技實習經驗

科技應用

我參與了卓騰語言科技的實習計畫,在這段兩個月的實習過程中,我不僅加深了對語言學理論的理解,還學習到如何利用自然語言處理(NLP)和自然語言理解(NLU)技術來解決現實中的問題。這次實習不僅讓我拓展了技術技能,更讓我體會到語言科技如何跨越學術和產業之間的界限。