Prediction 2023: Self improving AI systems with synthetic data. We ain't seen nothing yet. #ai
---
RT @mathemagic1an
The 'data engine' idea of defensibility in AI may not be as defensible as we thought:

In SELF-INSTRUCT, authors get GPT-3 to generate it's *own* dataset for instruction tuning, outperforming vanilla GPT-3 and comparable to InstructGPT.

https://arxiv.org/pdf/2212.10560.pdf

Here's how 👇
https://twitter.com/mathemagic1an/status/1607384423942742019

@rawx Dann könnte die Welle der "Artists", die sich über stehlende AI beschwert, auch wieder enden.

@diaeter Danke für die Anführungszeichen. Hab ja ein bisschen die Schnauze voll von Gebrauchsgrafikern, die Illus für Disney und D&D malen und sich für "Künstler" halten, und die dann Wind machen wenn ihr Industriejob automatisiert wird.

Andererseits sind die Datasets mutmaßlich nicht legal.

Narf. Auch 2023 bleibt alles: Kompliziert.

Frohes Neues, Dicker!

@rawx Auch, wenn ich beruflich raus bin und nie Künstler war, geht mir das ähnlich. Mit der Legalität der Datasets habe ich mich noch nicht befasst, dich aber auf Facebook in einem entsprechenden Thread letztens markiert. Rutsch gut, aber nicht aus, Dude.
@rawx Und was ist schon einfach außer Jammern?